]> git.openfabrics.org - ~shefty/rdma-dev.git/blob - drivers/net/wireless/iwlegacy/4965-mac.c
iwlegacy: change IL_WARN to D_HT in il4965_tx_agg_start
[~shefty/rdma-dev.git] / drivers / net / wireless / iwlegacy / 4965-mac.c
1 /******************************************************************************
2  *
3  * Copyright(c) 2003 - 2011 Intel Corporation. All rights reserved.
4  *
5  * Portions of this file are derived from the ipw3945 project, as well
6  * as portions of the ieee80211 subsystem header files.
7  *
8  * This program is free software; you can redistribute it and/or modify it
9  * under the terms of version 2 of the GNU General Public License as
10  * published by the Free Software Foundation.
11  *
12  * This program is distributed in the hope that it will be useful, but WITHOUT
13  * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
14  * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
15  * more details.
16  *
17  * You should have received a copy of the GNU General Public License along with
18  * this program; if not, write to the Free Software Foundation, Inc.,
19  * 51 Franklin Street, Fifth Floor, Boston, MA 02110, USA
20  *
21  * The full GNU General Public License is included in this distribution in the
22  * file called LICENSE.
23  *
24  * Contact Information:
25  *  Intel Linux Wireless <ilw@linux.intel.com>
26  * Intel Corporation, 5200 N.E. Elam Young Parkway, Hillsboro, OR 97124-6497
27  *
28  *****************************************************************************/
29
30 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
31
32 #include <linux/kernel.h>
33 #include <linux/module.h>
34 #include <linux/init.h>
35 #include <linux/pci.h>
36 #include <linux/pci-aspm.h>
37 #include <linux/slab.h>
38 #include <linux/dma-mapping.h>
39 #include <linux/delay.h>
40 #include <linux/sched.h>
41 #include <linux/skbuff.h>
42 #include <linux/netdevice.h>
43 #include <linux/firmware.h>
44 #include <linux/etherdevice.h>
45 #include <linux/if_arp.h>
46
47 #include <net/mac80211.h>
48
49 #include <asm/div64.h>
50
51 #define DRV_NAME        "iwl4965"
52
53 #include "common.h"
54 #include "4965.h"
55
56 /******************************************************************************
57  *
58  * module boiler plate
59  *
60  ******************************************************************************/
61
62 /*
63  * module name, copyright, version, etc.
64  */
65 #define DRV_DESCRIPTION "Intel(R) Wireless WiFi 4965 driver for Linux"
66
67 #ifdef CONFIG_IWLEGACY_DEBUG
68 #define VD "d"
69 #else
70 #define VD
71 #endif
72
73 #define DRV_VERSION     IWLWIFI_VERSION VD
74
75 MODULE_DESCRIPTION(DRV_DESCRIPTION);
76 MODULE_VERSION(DRV_VERSION);
77 MODULE_AUTHOR(DRV_COPYRIGHT " " DRV_AUTHOR);
78 MODULE_LICENSE("GPL");
79 MODULE_ALIAS("iwl4965");
80
81 void
82 il4965_check_abort_status(struct il_priv *il, u8 frame_count, u32 status)
83 {
84         if (frame_count == 1 && status == TX_STATUS_FAIL_RFKILL_FLUSH) {
85                 IL_ERR("Tx flush command to flush out all frames\n");
86                 if (!test_bit(S_EXIT_PENDING, &il->status))
87                         queue_work(il->workqueue, &il->tx_flush);
88         }
89 }
90
91 /*
92  * EEPROM
93  */
94 struct il_mod_params il4965_mod_params = {
95         .amsdu_size_8K = 1,
96         .restart_fw = 1,
97         /* the rest are 0 by default */
98 };
99
100 void
101 il4965_rx_queue_reset(struct il_priv *il, struct il_rx_queue *rxq)
102 {
103         unsigned long flags;
104         int i;
105         spin_lock_irqsave(&rxq->lock, flags);
106         INIT_LIST_HEAD(&rxq->rx_free);
107         INIT_LIST_HEAD(&rxq->rx_used);
108         /* Fill the rx_used queue with _all_ of the Rx buffers */
109         for (i = 0; i < RX_FREE_BUFFERS + RX_QUEUE_SIZE; i++) {
110                 /* In the reset function, these buffers may have been allocated
111                  * to an SKB, so we need to unmap and free potential storage */
112                 if (rxq->pool[i].page != NULL) {
113                         pci_unmap_page(il->pci_dev, rxq->pool[i].page_dma,
114                                        PAGE_SIZE << il->hw_params.rx_page_order,
115                                        PCI_DMA_FROMDEVICE);
116                         __il_free_pages(il, rxq->pool[i].page);
117                         rxq->pool[i].page = NULL;
118                 }
119                 list_add_tail(&rxq->pool[i].list, &rxq->rx_used);
120         }
121
122         for (i = 0; i < RX_QUEUE_SIZE; i++)
123                 rxq->queue[i] = NULL;
124
125         /* Set us so that we have processed and used all buffers, but have
126          * not restocked the Rx queue with fresh buffers */
127         rxq->read = rxq->write = 0;
128         rxq->write_actual = 0;
129         rxq->free_count = 0;
130         spin_unlock_irqrestore(&rxq->lock, flags);
131 }
132
133 int
134 il4965_rx_init(struct il_priv *il, struct il_rx_queue *rxq)
135 {
136         u32 rb_size;
137         const u32 rfdnlog = RX_QUEUE_SIZE_LOG;  /* 256 RBDs */
138         u32 rb_timeout = 0;
139
140         if (il->cfg->mod_params->amsdu_size_8K)
141                 rb_size = FH49_RCSR_RX_CONFIG_REG_VAL_RB_SIZE_8K;
142         else
143                 rb_size = FH49_RCSR_RX_CONFIG_REG_VAL_RB_SIZE_4K;
144
145         /* Stop Rx DMA */
146         il_wr(il, FH49_MEM_RCSR_CHNL0_CONFIG_REG, 0);
147
148         /* Reset driver's Rx queue write idx */
149         il_wr(il, FH49_RSCSR_CHNL0_RBDCB_WPTR_REG, 0);
150
151         /* Tell device where to find RBD circular buffer in DRAM */
152         il_wr(il, FH49_RSCSR_CHNL0_RBDCB_BASE_REG, (u32) (rxq->bd_dma >> 8));
153
154         /* Tell device where in DRAM to update its Rx status */
155         il_wr(il, FH49_RSCSR_CHNL0_STTS_WPTR_REG, rxq->rb_stts_dma >> 4);
156
157         /* Enable Rx DMA
158          * Direct rx interrupts to hosts
159          * Rx buffer size 4 or 8k
160          * RB timeout 0x10
161          * 256 RBDs
162          */
163         il_wr(il, FH49_MEM_RCSR_CHNL0_CONFIG_REG,
164               FH49_RCSR_RX_CONFIG_CHNL_EN_ENABLE_VAL |
165               FH49_RCSR_CHNL0_RX_CONFIG_IRQ_DEST_INT_HOST_VAL |
166               FH49_RCSR_CHNL0_RX_CONFIG_SINGLE_FRAME_MSK |
167               rb_size |
168               (rb_timeout << FH49_RCSR_RX_CONFIG_REG_IRQ_RBTH_POS) |
169               (rfdnlog << FH49_RCSR_RX_CONFIG_RBDCB_SIZE_POS));
170
171         /* Set interrupt coalescing timer to default (2048 usecs) */
172         il_write8(il, CSR_INT_COALESCING, IL_HOST_INT_TIMEOUT_DEF);
173
174         return 0;
175 }
176
177 static void
178 il4965_set_pwr_vmain(struct il_priv *il)
179 {
180 /*
181  * (for documentation purposes)
182  * to set power to V_AUX, do:
183
184                 if (pci_pme_capable(il->pci_dev, PCI_D3cold))
185                         il_set_bits_mask_prph(il, APMG_PS_CTRL_REG,
186                                                APMG_PS_CTRL_VAL_PWR_SRC_VAUX,
187                                                ~APMG_PS_CTRL_MSK_PWR_SRC);
188  */
189
190         il_set_bits_mask_prph(il, APMG_PS_CTRL_REG,
191                               APMG_PS_CTRL_VAL_PWR_SRC_VMAIN,
192                               ~APMG_PS_CTRL_MSK_PWR_SRC);
193 }
194
195 int
196 il4965_hw_nic_init(struct il_priv *il)
197 {
198         unsigned long flags;
199         struct il_rx_queue *rxq = &il->rxq;
200         int ret;
201
202         /* nic_init */
203         spin_lock_irqsave(&il->lock, flags);
204         il->cfg->ops->lib->apm_ops.init(il);
205
206         /* Set interrupt coalescing calibration timer to default (512 usecs) */
207         il_write8(il, CSR_INT_COALESCING, IL_HOST_INT_CALIB_TIMEOUT_DEF);
208
209         spin_unlock_irqrestore(&il->lock, flags);
210
211         il4965_set_pwr_vmain(il);
212
213         il->cfg->ops->lib->apm_ops.config(il);
214
215         /* Allocate the RX queue, or reset if it is already allocated */
216         if (!rxq->bd) {
217                 ret = il_rx_queue_alloc(il);
218                 if (ret) {
219                         IL_ERR("Unable to initialize Rx queue\n");
220                         return -ENOMEM;
221                 }
222         } else
223                 il4965_rx_queue_reset(il, rxq);
224
225         il4965_rx_replenish(il);
226
227         il4965_rx_init(il, rxq);
228
229         spin_lock_irqsave(&il->lock, flags);
230
231         rxq->need_update = 1;
232         il_rx_queue_update_write_ptr(il, rxq);
233
234         spin_unlock_irqrestore(&il->lock, flags);
235
236         /* Allocate or reset and init all Tx and Command queues */
237         if (!il->txq) {
238                 ret = il4965_txq_ctx_alloc(il);
239                 if (ret)
240                         return ret;
241         } else
242                 il4965_txq_ctx_reset(il);
243
244         set_bit(S_INIT, &il->status);
245
246         return 0;
247 }
248
249 /**
250  * il4965_dma_addr2rbd_ptr - convert a DMA address to a uCode read buffer ptr
251  */
252 static inline __le32
253 il4965_dma_addr2rbd_ptr(struct il_priv *il, dma_addr_t dma_addr)
254 {
255         return cpu_to_le32((u32) (dma_addr >> 8));
256 }
257
258 /**
259  * il4965_rx_queue_restock - refill RX queue from pre-allocated pool
260  *
261  * If there are slots in the RX queue that need to be restocked,
262  * and we have free pre-allocated buffers, fill the ranks as much
263  * as we can, pulling from rx_free.
264  *
265  * This moves the 'write' idx forward to catch up with 'processed', and
266  * also updates the memory address in the firmware to reference the new
267  * target buffer.
268  */
269 void
270 il4965_rx_queue_restock(struct il_priv *il)
271 {
272         struct il_rx_queue *rxq = &il->rxq;
273         struct list_head *element;
274         struct il_rx_buf *rxb;
275         unsigned long flags;
276
277         spin_lock_irqsave(&rxq->lock, flags);
278         while (il_rx_queue_space(rxq) > 0 && rxq->free_count) {
279                 /* The overwritten rxb must be a used one */
280                 rxb = rxq->queue[rxq->write];
281                 BUG_ON(rxb && rxb->page);
282
283                 /* Get next free Rx buffer, remove from free list */
284                 element = rxq->rx_free.next;
285                 rxb = list_entry(element, struct il_rx_buf, list);
286                 list_del(element);
287
288                 /* Point to Rx buffer via next RBD in circular buffer */
289                 rxq->bd[rxq->write] =
290                     il4965_dma_addr2rbd_ptr(il, rxb->page_dma);
291                 rxq->queue[rxq->write] = rxb;
292                 rxq->write = (rxq->write + 1) & RX_QUEUE_MASK;
293                 rxq->free_count--;
294         }
295         spin_unlock_irqrestore(&rxq->lock, flags);
296         /* If the pre-allocated buffer pool is dropping low, schedule to
297          * refill it */
298         if (rxq->free_count <= RX_LOW_WATERMARK)
299                 queue_work(il->workqueue, &il->rx_replenish);
300
301         /* If we've added more space for the firmware to place data, tell it.
302          * Increment device's write pointer in multiples of 8. */
303         if (rxq->write_actual != (rxq->write & ~0x7)) {
304                 spin_lock_irqsave(&rxq->lock, flags);
305                 rxq->need_update = 1;
306                 spin_unlock_irqrestore(&rxq->lock, flags);
307                 il_rx_queue_update_write_ptr(il, rxq);
308         }
309 }
310
311 /**
312  * il4965_rx_replenish - Move all used packet from rx_used to rx_free
313  *
314  * When moving to rx_free an SKB is allocated for the slot.
315  *
316  * Also restock the Rx queue via il_rx_queue_restock.
317  * This is called as a scheduled work item (except for during initialization)
318  */
319 static void
320 il4965_rx_allocate(struct il_priv *il, gfp_t priority)
321 {
322         struct il_rx_queue *rxq = &il->rxq;
323         struct list_head *element;
324         struct il_rx_buf *rxb;
325         struct page *page;
326         unsigned long flags;
327         gfp_t gfp_mask = priority;
328
329         while (1) {
330                 spin_lock_irqsave(&rxq->lock, flags);
331                 if (list_empty(&rxq->rx_used)) {
332                         spin_unlock_irqrestore(&rxq->lock, flags);
333                         return;
334                 }
335                 spin_unlock_irqrestore(&rxq->lock, flags);
336
337                 if (rxq->free_count > RX_LOW_WATERMARK)
338                         gfp_mask |= __GFP_NOWARN;
339
340                 if (il->hw_params.rx_page_order > 0)
341                         gfp_mask |= __GFP_COMP;
342
343                 /* Alloc a new receive buffer */
344                 page = alloc_pages(gfp_mask, il->hw_params.rx_page_order);
345                 if (!page) {
346                         if (net_ratelimit())
347                                 D_INFO("alloc_pages failed, " "order: %d\n",
348                                        il->hw_params.rx_page_order);
349
350                         if (rxq->free_count <= RX_LOW_WATERMARK &&
351                             net_ratelimit())
352                                 IL_ERR("Failed to alloc_pages with %s. "
353                                        "Only %u free buffers remaining.\n",
354                                        priority ==
355                                        GFP_ATOMIC ? "GFP_ATOMIC" : "GFP_KERNEL",
356                                        rxq->free_count);
357                         /* We don't reschedule replenish work here -- we will
358                          * call the restock method and if it still needs
359                          * more buffers it will schedule replenish */
360                         return;
361                 }
362
363                 spin_lock_irqsave(&rxq->lock, flags);
364
365                 if (list_empty(&rxq->rx_used)) {
366                         spin_unlock_irqrestore(&rxq->lock, flags);
367                         __free_pages(page, il->hw_params.rx_page_order);
368                         return;
369                 }
370                 element = rxq->rx_used.next;
371                 rxb = list_entry(element, struct il_rx_buf, list);
372                 list_del(element);
373
374                 spin_unlock_irqrestore(&rxq->lock, flags);
375
376                 BUG_ON(rxb->page);
377                 rxb->page = page;
378                 /* Get physical address of the RB */
379                 rxb->page_dma =
380                     pci_map_page(il->pci_dev, page, 0,
381                                  PAGE_SIZE << il->hw_params.rx_page_order,
382                                  PCI_DMA_FROMDEVICE);
383                 /* dma address must be no more than 36 bits */
384                 BUG_ON(rxb->page_dma & ~DMA_BIT_MASK(36));
385                 /* and also 256 byte aligned! */
386                 BUG_ON(rxb->page_dma & DMA_BIT_MASK(8));
387
388                 spin_lock_irqsave(&rxq->lock, flags);
389
390                 list_add_tail(&rxb->list, &rxq->rx_free);
391                 rxq->free_count++;
392                 il->alloc_rxb_page++;
393
394                 spin_unlock_irqrestore(&rxq->lock, flags);
395         }
396 }
397
398 void
399 il4965_rx_replenish(struct il_priv *il)
400 {
401         unsigned long flags;
402
403         il4965_rx_allocate(il, GFP_KERNEL);
404
405         spin_lock_irqsave(&il->lock, flags);
406         il4965_rx_queue_restock(il);
407         spin_unlock_irqrestore(&il->lock, flags);
408 }
409
410 void
411 il4965_rx_replenish_now(struct il_priv *il)
412 {
413         il4965_rx_allocate(il, GFP_ATOMIC);
414
415         il4965_rx_queue_restock(il);
416 }
417
418 /* Assumes that the skb field of the buffers in 'pool' is kept accurate.
419  * If an SKB has been detached, the POOL needs to have its SKB set to NULL
420  * This free routine walks the list of POOL entries and if SKB is set to
421  * non NULL it is unmapped and freed
422  */
423 void
424 il4965_rx_queue_free(struct il_priv *il, struct il_rx_queue *rxq)
425 {
426         int i;
427         for (i = 0; i < RX_QUEUE_SIZE + RX_FREE_BUFFERS; i++) {
428                 if (rxq->pool[i].page != NULL) {
429                         pci_unmap_page(il->pci_dev, rxq->pool[i].page_dma,
430                                        PAGE_SIZE << il->hw_params.rx_page_order,
431                                        PCI_DMA_FROMDEVICE);
432                         __il_free_pages(il, rxq->pool[i].page);
433                         rxq->pool[i].page = NULL;
434                 }
435         }
436
437         dma_free_coherent(&il->pci_dev->dev, 4 * RX_QUEUE_SIZE, rxq->bd,
438                           rxq->bd_dma);
439         dma_free_coherent(&il->pci_dev->dev, sizeof(struct il_rb_status),
440                           rxq->rb_stts, rxq->rb_stts_dma);
441         rxq->bd = NULL;
442         rxq->rb_stts = NULL;
443 }
444
445 int
446 il4965_rxq_stop(struct il_priv *il)
447 {
448
449         /* stop Rx DMA */
450         il_wr(il, FH49_MEM_RCSR_CHNL0_CONFIG_REG, 0);
451         il_poll_bit(il, FH49_MEM_RSSR_RX_STATUS_REG,
452                     FH49_RSSR_CHNL0_RX_STATUS_CHNL_IDLE, 1000);
453
454         return 0;
455 }
456
457 int
458 il4965_hwrate_to_mac80211_idx(u32 rate_n_flags, enum ieee80211_band band)
459 {
460         int idx = 0;
461         int band_offset = 0;
462
463         /* HT rate format: mac80211 wants an MCS number, which is just LSB */
464         if (rate_n_flags & RATE_MCS_HT_MSK) {
465                 idx = (rate_n_flags & 0xff);
466                 return idx;
467                 /* Legacy rate format, search for match in table */
468         } else {
469                 if (band == IEEE80211_BAND_5GHZ)
470                         band_offset = IL_FIRST_OFDM_RATE;
471                 for (idx = band_offset; idx < RATE_COUNT_LEGACY; idx++)
472                         if (il_rates[idx].plcp == (rate_n_flags & 0xFF))
473                                 return idx - band_offset;
474         }
475
476         return -1;
477 }
478
479 static int
480 il4965_calc_rssi(struct il_priv *il, struct il_rx_phy_res *rx_resp)
481 {
482         /* data from PHY/DSP regarding signal strength, etc.,
483          *   contents are always there, not configurable by host.  */
484         struct il4965_rx_non_cfg_phy *ncphy =
485             (struct il4965_rx_non_cfg_phy *)rx_resp->non_cfg_phy_buf;
486         u32 agc =
487             (le16_to_cpu(ncphy->agc_info) & IL49_AGC_DB_MASK) >>
488             IL49_AGC_DB_POS;
489
490         u32 valid_antennae =
491             (le16_to_cpu(rx_resp->phy_flags) & IL49_RX_PHY_FLAGS_ANTENNAE_MASK)
492             >> IL49_RX_PHY_FLAGS_ANTENNAE_OFFSET;
493         u8 max_rssi = 0;
494         u32 i;
495
496         /* Find max rssi among 3 possible receivers.
497          * These values are measured by the digital signal processor (DSP).
498          * They should stay fairly constant even as the signal strength varies,
499          *   if the radio's automatic gain control (AGC) is working right.
500          * AGC value (see below) will provide the "interesting" info. */
501         for (i = 0; i < 3; i++)
502                 if (valid_antennae & (1 << i))
503                         max_rssi = max(ncphy->rssi_info[i << 1], max_rssi);
504
505         D_STATS("Rssi In A %d B %d C %d Max %d AGC dB %d\n",
506                 ncphy->rssi_info[0], ncphy->rssi_info[2], ncphy->rssi_info[4],
507                 max_rssi, agc);
508
509         /* dBm = max_rssi dB - agc dB - constant.
510          * Higher AGC (higher radio gain) means lower signal. */
511         return max_rssi - agc - IL4965_RSSI_OFFSET;
512 }
513
514 static u32
515 il4965_translate_rx_status(struct il_priv *il, u32 decrypt_in)
516 {
517         u32 decrypt_out = 0;
518
519         if ((decrypt_in & RX_RES_STATUS_STATION_FOUND) ==
520             RX_RES_STATUS_STATION_FOUND)
521                 decrypt_out |=
522                     (RX_RES_STATUS_STATION_FOUND |
523                      RX_RES_STATUS_NO_STATION_INFO_MISMATCH);
524
525         decrypt_out |= (decrypt_in & RX_RES_STATUS_SEC_TYPE_MSK);
526
527         /* packet was not encrypted */
528         if ((decrypt_in & RX_RES_STATUS_SEC_TYPE_MSK) ==
529             RX_RES_STATUS_SEC_TYPE_NONE)
530                 return decrypt_out;
531
532         /* packet was encrypted with unknown alg */
533         if ((decrypt_in & RX_RES_STATUS_SEC_TYPE_MSK) ==
534             RX_RES_STATUS_SEC_TYPE_ERR)
535                 return decrypt_out;
536
537         /* decryption was not done in HW */
538         if ((decrypt_in & RX_MPDU_RES_STATUS_DEC_DONE_MSK) !=
539             RX_MPDU_RES_STATUS_DEC_DONE_MSK)
540                 return decrypt_out;
541
542         switch (decrypt_in & RX_RES_STATUS_SEC_TYPE_MSK) {
543
544         case RX_RES_STATUS_SEC_TYPE_CCMP:
545                 /* alg is CCM: check MIC only */
546                 if (!(decrypt_in & RX_MPDU_RES_STATUS_MIC_OK))
547                         /* Bad MIC */
548                         decrypt_out |= RX_RES_STATUS_BAD_ICV_MIC;
549                 else
550                         decrypt_out |= RX_RES_STATUS_DECRYPT_OK;
551
552                 break;
553
554         case RX_RES_STATUS_SEC_TYPE_TKIP:
555                 if (!(decrypt_in & RX_MPDU_RES_STATUS_TTAK_OK)) {
556                         /* Bad TTAK */
557                         decrypt_out |= RX_RES_STATUS_BAD_KEY_TTAK;
558                         break;
559                 }
560                 /* fall through if TTAK OK */
561         default:
562                 if (!(decrypt_in & RX_MPDU_RES_STATUS_ICV_OK))
563                         decrypt_out |= RX_RES_STATUS_BAD_ICV_MIC;
564                 else
565                         decrypt_out |= RX_RES_STATUS_DECRYPT_OK;
566                 break;
567         }
568
569         D_RX("decrypt_in:0x%x  decrypt_out = 0x%x\n", decrypt_in, decrypt_out);
570
571         return decrypt_out;
572 }
573
574 static void
575 il4965_pass_packet_to_mac80211(struct il_priv *il, struct ieee80211_hdr *hdr,
576                                u16 len, u32 ampdu_status, struct il_rx_buf *rxb,
577                                struct ieee80211_rx_status *stats)
578 {
579         struct sk_buff *skb;
580         __le16 fc = hdr->frame_control;
581
582         /* We only process data packets if the interface is open */
583         if (unlikely(!il->is_open)) {
584                 D_DROP("Dropping packet while interface is not open.\n");
585                 return;
586         }
587
588         /* In case of HW accelerated crypto and bad decryption, drop */
589         if (!il->cfg->mod_params->sw_crypto &&
590             il_set_decrypted_flag(il, hdr, ampdu_status, stats))
591                 return;
592
593         skb = dev_alloc_skb(128);
594         if (!skb) {
595                 IL_ERR("dev_alloc_skb failed\n");
596                 return;
597         }
598
599         skb_add_rx_frag(skb, 0, rxb->page, (void *)hdr - rxb_addr(rxb), len);
600
601         il_update_stats(il, false, fc, len);
602         memcpy(IEEE80211_SKB_RXCB(skb), stats, sizeof(*stats));
603
604         ieee80211_rx(il->hw, skb);
605         il->alloc_rxb_page--;
606         rxb->page = NULL;
607 }
608
609 /* Called for N_RX (legacy ABG frames), or
610  * N_RX_MPDU (HT high-throughput N frames). */
611 void
612 il4965_hdl_rx(struct il_priv *il, struct il_rx_buf *rxb)
613 {
614         struct ieee80211_hdr *header;
615         struct ieee80211_rx_status rx_status;
616         struct il_rx_pkt *pkt = rxb_addr(rxb);
617         struct il_rx_phy_res *phy_res;
618         __le32 rx_pkt_status;
619         struct il_rx_mpdu_res_start *amsdu;
620         u32 len;
621         u32 ampdu_status;
622         u32 rate_n_flags;
623
624         /**
625          * N_RX and N_RX_MPDU are handled differently.
626          *      N_RX: physical layer info is in this buffer
627          *      N_RX_MPDU: physical layer info was sent in separate
628          *              command and cached in il->last_phy_res
629          *
630          * Here we set up local variables depending on which command is
631          * received.
632          */
633         if (pkt->hdr.cmd == N_RX) {
634                 phy_res = (struct il_rx_phy_res *)pkt->u.raw;
635                 header =
636                     (struct ieee80211_hdr *)(pkt->u.raw + sizeof(*phy_res) +
637                                              phy_res->cfg_phy_cnt);
638
639                 len = le16_to_cpu(phy_res->byte_count);
640                 rx_pkt_status =
641                     *(__le32 *) (pkt->u.raw + sizeof(*phy_res) +
642                                  phy_res->cfg_phy_cnt + len);
643                 ampdu_status = le32_to_cpu(rx_pkt_status);
644         } else {
645                 if (!il->_4965.last_phy_res_valid) {
646                         IL_ERR("MPDU frame without cached PHY data\n");
647                         return;
648                 }
649                 phy_res = &il->_4965.last_phy_res;
650                 amsdu = (struct il_rx_mpdu_res_start *)pkt->u.raw;
651                 header = (struct ieee80211_hdr *)(pkt->u.raw + sizeof(*amsdu));
652                 len = le16_to_cpu(amsdu->byte_count);
653                 rx_pkt_status = *(__le32 *) (pkt->u.raw + sizeof(*amsdu) + len);
654                 ampdu_status =
655                     il4965_translate_rx_status(il, le32_to_cpu(rx_pkt_status));
656         }
657
658         if ((unlikely(phy_res->cfg_phy_cnt > 20))) {
659                 D_DROP("dsp size out of range [0,20]: %d/n",
660                        phy_res->cfg_phy_cnt);
661                 return;
662         }
663
664         if (!(rx_pkt_status & RX_RES_STATUS_NO_CRC32_ERROR) ||
665             !(rx_pkt_status & RX_RES_STATUS_NO_RXE_OVERFLOW)) {
666                 D_RX("Bad CRC or FIFO: 0x%08X.\n", le32_to_cpu(rx_pkt_status));
667                 return;
668         }
669
670         /* This will be used in several places later */
671         rate_n_flags = le32_to_cpu(phy_res->rate_n_flags);
672
673         /* rx_status carries information about the packet to mac80211 */
674         rx_status.mactime = le64_to_cpu(phy_res->timestamp);
675         rx_status.band =
676             (phy_res->
677              phy_flags & RX_RES_PHY_FLAGS_BAND_24_MSK) ? IEEE80211_BAND_2GHZ :
678             IEEE80211_BAND_5GHZ;
679         rx_status.freq =
680             ieee80211_channel_to_frequency(le16_to_cpu(phy_res->channel),
681                                            rx_status.band);
682         rx_status.rate_idx =
683             il4965_hwrate_to_mac80211_idx(rate_n_flags, rx_status.band);
684         rx_status.flag = 0;
685
686         /* TSF isn't reliable. In order to allow smooth user experience,
687          * this W/A doesn't propagate it to the mac80211 */
688         /*rx_status.flag |= RX_FLAG_MACTIME_MPDU; */
689
690         il->ucode_beacon_time = le32_to_cpu(phy_res->beacon_time_stamp);
691
692         /* Find max signal strength (dBm) among 3 antenna/receiver chains */
693         rx_status.signal = il4965_calc_rssi(il, phy_res);
694
695         il_dbg_log_rx_data_frame(il, len, header);
696         D_STATS("Rssi %d, TSF %llu\n", rx_status.signal,
697                 (unsigned long long)rx_status.mactime);
698
699         /*
700          * "antenna number"
701          *
702          * It seems that the antenna field in the phy flags value
703          * is actually a bit field. This is undefined by radiotap,
704          * it wants an actual antenna number but I always get "7"
705          * for most legacy frames I receive indicating that the
706          * same frame was received on all three RX chains.
707          *
708          * I think this field should be removed in favor of a
709          * new 802.11n radiotap field "RX chains" that is defined
710          * as a bitmask.
711          */
712         rx_status.antenna =
713             (le16_to_cpu(phy_res->phy_flags) & RX_RES_PHY_FLAGS_ANTENNA_MSK) >>
714             RX_RES_PHY_FLAGS_ANTENNA_POS;
715
716         /* set the preamble flag if appropriate */
717         if (phy_res->phy_flags & RX_RES_PHY_FLAGS_SHORT_PREAMBLE_MSK)
718                 rx_status.flag |= RX_FLAG_SHORTPRE;
719
720         /* Set up the HT phy flags */
721         if (rate_n_flags & RATE_MCS_HT_MSK)
722                 rx_status.flag |= RX_FLAG_HT;
723         if (rate_n_flags & RATE_MCS_HT40_MSK)
724                 rx_status.flag |= RX_FLAG_40MHZ;
725         if (rate_n_flags & RATE_MCS_SGI_MSK)
726                 rx_status.flag |= RX_FLAG_SHORT_GI;
727
728         il4965_pass_packet_to_mac80211(il, header, len, ampdu_status, rxb,
729                                        &rx_status);
730 }
731
732 /* Cache phy data (Rx signal strength, etc) for HT frame (N_RX_PHY).
733  * This will be used later in il_hdl_rx() for N_RX_MPDU. */
734 void
735 il4965_hdl_rx_phy(struct il_priv *il, struct il_rx_buf *rxb)
736 {
737         struct il_rx_pkt *pkt = rxb_addr(rxb);
738         il->_4965.last_phy_res_valid = true;
739         memcpy(&il->_4965.last_phy_res, pkt->u.raw,
740                sizeof(struct il_rx_phy_res));
741 }
742
743 static int
744 il4965_get_channels_for_scan(struct il_priv *il, struct ieee80211_vif *vif,
745                              enum ieee80211_band band, u8 is_active,
746                              u8 n_probes, struct il_scan_channel *scan_ch)
747 {
748         struct ieee80211_channel *chan;
749         const struct ieee80211_supported_band *sband;
750         const struct il_channel_info *ch_info;
751         u16 passive_dwell = 0;
752         u16 active_dwell = 0;
753         int added, i;
754         u16 channel;
755
756         sband = il_get_hw_mode(il, band);
757         if (!sband)
758                 return 0;
759
760         active_dwell = il_get_active_dwell_time(il, band, n_probes);
761         passive_dwell = il_get_passive_dwell_time(il, band, vif);
762
763         if (passive_dwell <= active_dwell)
764                 passive_dwell = active_dwell + 1;
765
766         for (i = 0, added = 0; i < il->scan_request->n_channels; i++) {
767                 chan = il->scan_request->channels[i];
768
769                 if (chan->band != band)
770                         continue;
771
772                 channel = chan->hw_value;
773                 scan_ch->channel = cpu_to_le16(channel);
774
775                 ch_info = il_get_channel_info(il, band, channel);
776                 if (!il_is_channel_valid(ch_info)) {
777                         D_SCAN("Channel %d is INVALID for this band.\n",
778                                channel);
779                         continue;
780                 }
781
782                 if (!is_active || il_is_channel_passive(ch_info) ||
783                     (chan->flags & IEEE80211_CHAN_PASSIVE_SCAN))
784                         scan_ch->type = SCAN_CHANNEL_TYPE_PASSIVE;
785                 else
786                         scan_ch->type = SCAN_CHANNEL_TYPE_ACTIVE;
787
788                 if (n_probes)
789                         scan_ch->type |= IL_SCAN_PROBE_MASK(n_probes);
790
791                 scan_ch->active_dwell = cpu_to_le16(active_dwell);
792                 scan_ch->passive_dwell = cpu_to_le16(passive_dwell);
793
794                 /* Set txpower levels to defaults */
795                 scan_ch->dsp_atten = 110;
796
797                 /* NOTE: if we were doing 6Mb OFDM for scans we'd use
798                  * power level:
799                  * scan_ch->tx_gain = ((1 << 5) | (2 << 3)) | 3;
800                  */
801                 if (band == IEEE80211_BAND_5GHZ)
802                         scan_ch->tx_gain = ((1 << 5) | (3 << 3)) | 3;
803                 else
804                         scan_ch->tx_gain = ((1 << 5) | (5 << 3));
805
806                 D_SCAN("Scanning ch=%d prob=0x%X [%s %d]\n", channel,
807                        le32_to_cpu(scan_ch->type),
808                        (scan_ch->
809                         type & SCAN_CHANNEL_TYPE_ACTIVE) ? "ACTIVE" : "PASSIVE",
810                        (scan_ch->
811                         type & SCAN_CHANNEL_TYPE_ACTIVE) ? active_dwell :
812                        passive_dwell);
813
814                 scan_ch++;
815                 added++;
816         }
817
818         D_SCAN("total channels to scan %d\n", added);
819         return added;
820 }
821
822 static inline u32
823 il4965_ant_idx_to_flags(u8 ant_idx)
824 {
825         return BIT(ant_idx) << RATE_MCS_ANT_POS;
826 }
827
828 int
829 il4965_request_scan(struct il_priv *il, struct ieee80211_vif *vif)
830 {
831         struct il_host_cmd cmd = {
832                 .id = C_SCAN,
833                 .len = sizeof(struct il_scan_cmd),
834                 .flags = CMD_SIZE_HUGE,
835         };
836         struct il_scan_cmd *scan;
837         struct il_rxon_context *ctx = &il->ctx;
838         u32 rate_flags = 0;
839         u16 cmd_len;
840         u16 rx_chain = 0;
841         enum ieee80211_band band;
842         u8 n_probes = 0;
843         u8 rx_ant = il->hw_params.valid_rx_ant;
844         u8 rate;
845         bool is_active = false;
846         int chan_mod;
847         u8 active_chains;
848         u8 scan_tx_antennas = il->hw_params.valid_tx_ant;
849         int ret;
850
851         lockdep_assert_held(&il->mutex);
852
853         if (vif)
854                 ctx = il_rxon_ctx_from_vif(vif);
855
856         if (!il->scan_cmd) {
857                 il->scan_cmd =
858                     kmalloc(sizeof(struct il_scan_cmd) + IL_MAX_SCAN_SIZE,
859                             GFP_KERNEL);
860                 if (!il->scan_cmd) {
861                         D_SCAN("fail to allocate memory for scan\n");
862                         return -ENOMEM;
863                 }
864         }
865         scan = il->scan_cmd;
866         memset(scan, 0, sizeof(struct il_scan_cmd) + IL_MAX_SCAN_SIZE);
867
868         scan->quiet_plcp_th = IL_PLCP_QUIET_THRESH;
869         scan->quiet_time = IL_ACTIVE_QUIET_TIME;
870
871         if (il_is_any_associated(il)) {
872                 u16 interval;
873                 u32 extra;
874                 u32 suspend_time = 100;
875                 u32 scan_suspend_time = 100;
876
877                 D_INFO("Scanning while associated...\n");
878                 interval = vif->bss_conf.beacon_int;
879
880                 scan->suspend_time = 0;
881                 scan->max_out_time = cpu_to_le32(200 * 1024);
882                 if (!interval)
883                         interval = suspend_time;
884
885                 extra = (suspend_time / interval) << 22;
886                 scan_suspend_time =
887                     (extra | ((suspend_time % interval) * 1024));
888                 scan->suspend_time = cpu_to_le32(scan_suspend_time);
889                 D_SCAN("suspend_time 0x%X beacon interval %d\n",
890                        scan_suspend_time, interval);
891         }
892
893         if (il->scan_request->n_ssids) {
894                 int i, p = 0;
895                 D_SCAN("Kicking off active scan\n");
896                 for (i = 0; i < il->scan_request->n_ssids; i++) {
897                         /* always does wildcard anyway */
898                         if (!il->scan_request->ssids[i].ssid_len)
899                                 continue;
900                         scan->direct_scan[p].id = WLAN_EID_SSID;
901                         scan->direct_scan[p].len =
902                             il->scan_request->ssids[i].ssid_len;
903                         memcpy(scan->direct_scan[p].ssid,
904                                il->scan_request->ssids[i].ssid,
905                                il->scan_request->ssids[i].ssid_len);
906                         n_probes++;
907                         p++;
908                 }
909                 is_active = true;
910         } else
911                 D_SCAN("Start passive scan.\n");
912
913         scan->tx_cmd.tx_flags = TX_CMD_FLG_SEQ_CTL_MSK;
914         scan->tx_cmd.sta_id = ctx->bcast_sta_id;
915         scan->tx_cmd.stop_time.life_time = TX_CMD_LIFE_TIME_INFINITE;
916
917         switch (il->scan_band) {
918         case IEEE80211_BAND_2GHZ:
919                 scan->flags = RXON_FLG_BAND_24G_MSK | RXON_FLG_AUTO_DETECT_MSK;
920                 chan_mod =
921                     le32_to_cpu(il->ctx.active.
922                                 flags & RXON_FLG_CHANNEL_MODE_MSK) >>
923                     RXON_FLG_CHANNEL_MODE_POS;
924                 if (chan_mod == CHANNEL_MODE_PURE_40) {
925                         rate = RATE_6M_PLCP;
926                 } else {
927                         rate = RATE_1M_PLCP;
928                         rate_flags = RATE_MCS_CCK_MSK;
929                 }
930                 break;
931         case IEEE80211_BAND_5GHZ:
932                 rate = RATE_6M_PLCP;
933                 break;
934         default:
935                 IL_WARN("Invalid scan band\n");
936                 return -EIO;
937         }
938
939         /*
940          * If active scanning is requested but a certain channel is
941          * marked passive, we can do active scanning if we detect
942          * transmissions.
943          *
944          * There is an issue with some firmware versions that triggers
945          * a sysassert on a "good CRC threshold" of zero (== disabled),
946          * on a radar channel even though this means that we should NOT
947          * send probes.
948          *
949          * The "good CRC threshold" is the number of frames that we
950          * need to receive during our dwell time on a channel before
951          * sending out probes -- setting this to a huge value will
952          * mean we never reach it, but at the same time work around
953          * the aforementioned issue. Thus use IL_GOOD_CRC_TH_NEVER
954          * here instead of IL_GOOD_CRC_TH_DISABLED.
955          */
956         scan->good_CRC_th =
957             is_active ? IL_GOOD_CRC_TH_DEFAULT : IL_GOOD_CRC_TH_NEVER;
958
959         band = il->scan_band;
960
961         if (il->cfg->scan_rx_antennas[band])
962                 rx_ant = il->cfg->scan_rx_antennas[band];
963
964         il->scan_tx_ant[band] =
965             il4965_toggle_tx_ant(il, il->scan_tx_ant[band], scan_tx_antennas);
966         rate_flags |= il4965_ant_idx_to_flags(il->scan_tx_ant[band]);
967         scan->tx_cmd.rate_n_flags =
968             il4965_hw_set_rate_n_flags(rate, rate_flags);
969
970         /* In power save mode use one chain, otherwise use all chains */
971         if (test_bit(S_POWER_PMI, &il->status)) {
972                 /* rx_ant has been set to all valid chains previously */
973                 active_chains =
974                     rx_ant & ((u8) (il->chain_noise_data.active_chains));
975                 if (!active_chains)
976                         active_chains = rx_ant;
977
978                 D_SCAN("chain_noise_data.active_chains: %u\n",
979                        il->chain_noise_data.active_chains);
980
981                 rx_ant = il4965_first_antenna(active_chains);
982         }
983
984         /* MIMO is not used here, but value is required */
985         rx_chain |= il->hw_params.valid_rx_ant << RXON_RX_CHAIN_VALID_POS;
986         rx_chain |= rx_ant << RXON_RX_CHAIN_FORCE_MIMO_SEL_POS;
987         rx_chain |= rx_ant << RXON_RX_CHAIN_FORCE_SEL_POS;
988         rx_chain |= 0x1 << RXON_RX_CHAIN_DRIVER_FORCE_POS;
989         scan->rx_chain = cpu_to_le16(rx_chain);
990
991         cmd_len =
992             il_fill_probe_req(il, (struct ieee80211_mgmt *)scan->data,
993                               vif->addr, il->scan_request->ie,
994                               il->scan_request->ie_len,
995                               IL_MAX_SCAN_SIZE - sizeof(*scan));
996         scan->tx_cmd.len = cpu_to_le16(cmd_len);
997
998         scan->filter_flags |=
999             (RXON_FILTER_ACCEPT_GRP_MSK | RXON_FILTER_BCON_AWARE_MSK);
1000
1001         scan->channel_count =
1002             il4965_get_channels_for_scan(il, vif, band, is_active, n_probes,
1003                                          (void *)&scan->data[cmd_len]);
1004         if (scan->channel_count == 0) {
1005                 D_SCAN("channel count %d\n", scan->channel_count);
1006                 return -EIO;
1007         }
1008
1009         cmd.len +=
1010             le16_to_cpu(scan->tx_cmd.len) +
1011             scan->channel_count * sizeof(struct il_scan_channel);
1012         cmd.data = scan;
1013         scan->len = cpu_to_le16(cmd.len);
1014
1015         set_bit(S_SCAN_HW, &il->status);
1016
1017         ret = il_send_cmd_sync(il, &cmd);
1018         if (ret)
1019                 clear_bit(S_SCAN_HW, &il->status);
1020
1021         return ret;
1022 }
1023
1024 int
1025 il4965_manage_ibss_station(struct il_priv *il, struct ieee80211_vif *vif,
1026                            bool add)
1027 {
1028         struct il_vif_priv *vif_priv = (void *)vif->drv_priv;
1029
1030         if (add)
1031                 return il4965_add_bssid_station(il, vif_priv->ctx,
1032                                                 vif->bss_conf.bssid,
1033                                                 &vif_priv->ibss_bssid_sta_id);
1034         return il_remove_station(il, vif_priv->ibss_bssid_sta_id,
1035                                  vif->bss_conf.bssid);
1036 }
1037
1038 void
1039 il4965_free_tfds_in_queue(struct il_priv *il, int sta_id, int tid, int freed)
1040 {
1041         lockdep_assert_held(&il->sta_lock);
1042
1043         if (il->stations[sta_id].tid[tid].tfds_in_queue >= freed)
1044                 il->stations[sta_id].tid[tid].tfds_in_queue -= freed;
1045         else {
1046                 D_TX("free more than tfds_in_queue (%u:%d)\n",
1047                      il->stations[sta_id].tid[tid].tfds_in_queue, freed);
1048                 il->stations[sta_id].tid[tid].tfds_in_queue = 0;
1049         }
1050 }
1051
1052 #define IL_TX_QUEUE_MSK 0xfffff
1053
1054 static bool
1055 il4965_is_single_rx_stream(struct il_priv *il)
1056 {
1057         return il->current_ht_config.smps == IEEE80211_SMPS_STATIC ||
1058             il->current_ht_config.single_chain_sufficient;
1059 }
1060
1061 #define IL_NUM_RX_CHAINS_MULTIPLE       3
1062 #define IL_NUM_RX_CHAINS_SINGLE 2
1063 #define IL_NUM_IDLE_CHAINS_DUAL 2
1064 #define IL_NUM_IDLE_CHAINS_SINGLE       1
1065
1066 /*
1067  * Determine how many receiver/antenna chains to use.
1068  *
1069  * More provides better reception via diversity.  Fewer saves power
1070  * at the expense of throughput, but only when not in powersave to
1071  * start with.
1072  *
1073  * MIMO (dual stream) requires at least 2, but works better with 3.
1074  * This does not determine *which* chains to use, just how many.
1075  */
1076 static int
1077 il4965_get_active_rx_chain_count(struct il_priv *il)
1078 {
1079         /* # of Rx chains to use when expecting MIMO. */
1080         if (il4965_is_single_rx_stream(il))
1081                 return IL_NUM_RX_CHAINS_SINGLE;
1082         else
1083                 return IL_NUM_RX_CHAINS_MULTIPLE;
1084 }
1085
1086 /*
1087  * When we are in power saving mode, unless device support spatial
1088  * multiplexing power save, use the active count for rx chain count.
1089  */
1090 static int
1091 il4965_get_idle_rx_chain_count(struct il_priv *il, int active_cnt)
1092 {
1093         /* # Rx chains when idling, depending on SMPS mode */
1094         switch (il->current_ht_config.smps) {
1095         case IEEE80211_SMPS_STATIC:
1096         case IEEE80211_SMPS_DYNAMIC:
1097                 return IL_NUM_IDLE_CHAINS_SINGLE;
1098         case IEEE80211_SMPS_OFF:
1099                 return active_cnt;
1100         default:
1101                 WARN(1, "invalid SMPS mode %d", il->current_ht_config.smps);
1102                 return active_cnt;
1103         }
1104 }
1105
1106 /* up to 4 chains */
1107 static u8
1108 il4965_count_chain_bitmap(u32 chain_bitmap)
1109 {
1110         u8 res;
1111         res = (chain_bitmap & BIT(0)) >> 0;
1112         res += (chain_bitmap & BIT(1)) >> 1;
1113         res += (chain_bitmap & BIT(2)) >> 2;
1114         res += (chain_bitmap & BIT(3)) >> 3;
1115         return res;
1116 }
1117
1118 /**
1119  * il4965_set_rxon_chain - Set up Rx chain usage in "staging" RXON image
1120  *
1121  * Selects how many and which Rx receivers/antennas/chains to use.
1122  * This should not be used for scan command ... it puts data in wrong place.
1123  */
1124 void
1125 il4965_set_rxon_chain(struct il_priv *il, struct il_rxon_context *ctx)
1126 {
1127         bool is_single = il4965_is_single_rx_stream(il);
1128         bool is_cam = !test_bit(S_POWER_PMI, &il->status);
1129         u8 idle_rx_cnt, active_rx_cnt, valid_rx_cnt;
1130         u32 active_chains;
1131         u16 rx_chain;
1132
1133         /* Tell uCode which antennas are actually connected.
1134          * Before first association, we assume all antennas are connected.
1135          * Just after first association, il4965_chain_noise_calibration()
1136          *    checks which antennas actually *are* connected. */
1137         if (il->chain_noise_data.active_chains)
1138                 active_chains = il->chain_noise_data.active_chains;
1139         else
1140                 active_chains = il->hw_params.valid_rx_ant;
1141
1142         rx_chain = active_chains << RXON_RX_CHAIN_VALID_POS;
1143
1144         /* How many receivers should we use? */
1145         active_rx_cnt = il4965_get_active_rx_chain_count(il);
1146         idle_rx_cnt = il4965_get_idle_rx_chain_count(il, active_rx_cnt);
1147
1148         /* correct rx chain count according hw settings
1149          * and chain noise calibration
1150          */
1151         valid_rx_cnt = il4965_count_chain_bitmap(active_chains);
1152         if (valid_rx_cnt < active_rx_cnt)
1153                 active_rx_cnt = valid_rx_cnt;
1154
1155         if (valid_rx_cnt < idle_rx_cnt)
1156                 idle_rx_cnt = valid_rx_cnt;
1157
1158         rx_chain |= active_rx_cnt << RXON_RX_CHAIN_MIMO_CNT_POS;
1159         rx_chain |= idle_rx_cnt << RXON_RX_CHAIN_CNT_POS;
1160
1161         ctx->staging.rx_chain = cpu_to_le16(rx_chain);
1162
1163         if (!is_single && active_rx_cnt >= IL_NUM_RX_CHAINS_SINGLE && is_cam)
1164                 ctx->staging.rx_chain |= RXON_RX_CHAIN_MIMO_FORCE_MSK;
1165         else
1166                 ctx->staging.rx_chain &= ~RXON_RX_CHAIN_MIMO_FORCE_MSK;
1167
1168         D_ASSOC("rx_chain=0x%X active=%d idle=%d\n", ctx->staging.rx_chain,
1169                 active_rx_cnt, idle_rx_cnt);
1170
1171         WARN_ON(active_rx_cnt == 0 || idle_rx_cnt == 0 ||
1172                 active_rx_cnt < idle_rx_cnt);
1173 }
1174
1175 u8
1176 il4965_toggle_tx_ant(struct il_priv *il, u8 ant, u8 valid)
1177 {
1178         int i;
1179         u8 ind = ant;
1180
1181         for (i = 0; i < RATE_ANT_NUM - 1; i++) {
1182                 ind = (ind + 1) < RATE_ANT_NUM ? ind + 1 : 0;
1183                 if (valid & BIT(ind))
1184                         return ind;
1185         }
1186         return ant;
1187 }
1188
1189 static const char *
1190 il4965_get_fh_string(int cmd)
1191 {
1192         switch (cmd) {
1193                 IL_CMD(FH49_RSCSR_CHNL0_STTS_WPTR_REG);
1194                 IL_CMD(FH49_RSCSR_CHNL0_RBDCB_BASE_REG);
1195                 IL_CMD(FH49_RSCSR_CHNL0_WPTR);
1196                 IL_CMD(FH49_MEM_RCSR_CHNL0_CONFIG_REG);
1197                 IL_CMD(FH49_MEM_RSSR_SHARED_CTRL_REG);
1198                 IL_CMD(FH49_MEM_RSSR_RX_STATUS_REG);
1199                 IL_CMD(FH49_MEM_RSSR_RX_ENABLE_ERR_IRQ2DRV);
1200                 IL_CMD(FH49_TSSR_TX_STATUS_REG);
1201                 IL_CMD(FH49_TSSR_TX_ERROR_REG);
1202         default:
1203                 return "UNKNOWN";
1204         }
1205 }
1206
1207 int
1208 il4965_dump_fh(struct il_priv *il, char **buf, bool display)
1209 {
1210         int i;
1211 #ifdef CONFIG_IWLEGACY_DEBUG
1212         int pos = 0;
1213         size_t bufsz = 0;
1214 #endif
1215         static const u32 fh_tbl[] = {
1216                 FH49_RSCSR_CHNL0_STTS_WPTR_REG,
1217                 FH49_RSCSR_CHNL0_RBDCB_BASE_REG,
1218                 FH49_RSCSR_CHNL0_WPTR,
1219                 FH49_MEM_RCSR_CHNL0_CONFIG_REG,
1220                 FH49_MEM_RSSR_SHARED_CTRL_REG,
1221                 FH49_MEM_RSSR_RX_STATUS_REG,
1222                 FH49_MEM_RSSR_RX_ENABLE_ERR_IRQ2DRV,
1223                 FH49_TSSR_TX_STATUS_REG,
1224                 FH49_TSSR_TX_ERROR_REG
1225         };
1226 #ifdef CONFIG_IWLEGACY_DEBUG
1227         if (display) {
1228                 bufsz = ARRAY_SIZE(fh_tbl) * 48 + 40;
1229                 *buf = kmalloc(bufsz, GFP_KERNEL);
1230                 if (!*buf)
1231                         return -ENOMEM;
1232                 pos +=
1233                     scnprintf(*buf + pos, bufsz - pos, "FH register values:\n");
1234                 for (i = 0; i < ARRAY_SIZE(fh_tbl); i++) {
1235                         pos +=
1236                             scnprintf(*buf + pos, bufsz - pos,
1237                                       "  %34s: 0X%08x\n",
1238                                       il4965_get_fh_string(fh_tbl[i]),
1239                                       il_rd(il, fh_tbl[i]));
1240                 }
1241                 return pos;
1242         }
1243 #endif
1244         IL_ERR("FH register values:\n");
1245         for (i = 0; i < ARRAY_SIZE(fh_tbl); i++) {
1246                 IL_ERR("  %34s: 0X%08x\n", il4965_get_fh_string(fh_tbl[i]),
1247                        il_rd(il, fh_tbl[i]));
1248         }
1249         return 0;
1250 }
1251
1252 void
1253 il4965_hdl_missed_beacon(struct il_priv *il, struct il_rx_buf *rxb)
1254 {
1255         struct il_rx_pkt *pkt = rxb_addr(rxb);
1256         struct il_missed_beacon_notif *missed_beacon;
1257
1258         missed_beacon = &pkt->u.missed_beacon;
1259         if (le32_to_cpu(missed_beacon->consecutive_missed_beacons) >
1260             il->missed_beacon_threshold) {
1261                 D_CALIB("missed bcn cnsq %d totl %d rcd %d expctd %d\n",
1262                         le32_to_cpu(missed_beacon->consecutive_missed_beacons),
1263                         le32_to_cpu(missed_beacon->total_missed_becons),
1264                         le32_to_cpu(missed_beacon->num_recvd_beacons),
1265                         le32_to_cpu(missed_beacon->num_expected_beacons));
1266                 if (!test_bit(S_SCANNING, &il->status))
1267                         il4965_init_sensitivity(il);
1268         }
1269 }
1270
1271 /* Calculate noise level, based on measurements during network silence just
1272  *   before arriving beacon.  This measurement can be done only if we know
1273  *   exactly when to expect beacons, therefore only when we're associated. */
1274 static void
1275 il4965_rx_calc_noise(struct il_priv *il)
1276 {
1277         struct stats_rx_non_phy *rx_info;
1278         int num_active_rx = 0;
1279         int total_silence = 0;
1280         int bcn_silence_a, bcn_silence_b, bcn_silence_c;
1281         int last_rx_noise;
1282
1283         rx_info = &(il->_4965.stats.rx.general);
1284         bcn_silence_a =
1285             le32_to_cpu(rx_info->beacon_silence_rssi_a) & IN_BAND_FILTER;
1286         bcn_silence_b =
1287             le32_to_cpu(rx_info->beacon_silence_rssi_b) & IN_BAND_FILTER;
1288         bcn_silence_c =
1289             le32_to_cpu(rx_info->beacon_silence_rssi_c) & IN_BAND_FILTER;
1290
1291         if (bcn_silence_a) {
1292                 total_silence += bcn_silence_a;
1293                 num_active_rx++;
1294         }
1295         if (bcn_silence_b) {
1296                 total_silence += bcn_silence_b;
1297                 num_active_rx++;
1298         }
1299         if (bcn_silence_c) {
1300                 total_silence += bcn_silence_c;
1301                 num_active_rx++;
1302         }
1303
1304         /* Average among active antennas */
1305         if (num_active_rx)
1306                 last_rx_noise = (total_silence / num_active_rx) - 107;
1307         else
1308                 last_rx_noise = IL_NOISE_MEAS_NOT_AVAILABLE;
1309
1310         D_CALIB("inband silence a %u, b %u, c %u, dBm %d\n", bcn_silence_a,
1311                 bcn_silence_b, bcn_silence_c, last_rx_noise);
1312 }
1313
1314 #ifdef CONFIG_IWLEGACY_DEBUGFS
1315 /*
1316  *  based on the assumption of all stats counter are in DWORD
1317  *  FIXME: This function is for debugging, do not deal with
1318  *  the case of counters roll-over.
1319  */
1320 static void
1321 il4965_accumulative_stats(struct il_priv *il, __le32 * stats)
1322 {
1323         int i, size;
1324         __le32 *prev_stats;
1325         u32 *accum_stats;
1326         u32 *delta, *max_delta;
1327         struct stats_general_common *general, *accum_general;
1328         struct stats_tx *tx, *accum_tx;
1329
1330         prev_stats = (__le32 *) &il->_4965.stats;
1331         accum_stats = (u32 *) &il->_4965.accum_stats;
1332         size = sizeof(struct il_notif_stats);
1333         general = &il->_4965.stats.general.common;
1334         accum_general = &il->_4965.accum_stats.general.common;
1335         tx = &il->_4965.stats.tx;
1336         accum_tx = &il->_4965.accum_stats.tx;
1337         delta = (u32 *) &il->_4965.delta_stats;
1338         max_delta = (u32 *) &il->_4965.max_delta;
1339
1340         for (i = sizeof(__le32); i < size;
1341              i +=
1342              sizeof(__le32), stats++, prev_stats++, delta++, max_delta++,
1343              accum_stats++) {
1344                 if (le32_to_cpu(*stats) > le32_to_cpu(*prev_stats)) {
1345                         *delta =
1346                             (le32_to_cpu(*stats) - le32_to_cpu(*prev_stats));
1347                         *accum_stats += *delta;
1348                         if (*delta > *max_delta)
1349                                 *max_delta = *delta;
1350                 }
1351         }
1352
1353         /* reset accumulative stats for "no-counter" type stats */
1354         accum_general->temperature = general->temperature;
1355         accum_general->ttl_timestamp = general->ttl_timestamp;
1356 }
1357 #endif
1358
1359 #define REG_RECALIB_PERIOD (60)
1360
1361 void
1362 il4965_hdl_stats(struct il_priv *il, struct il_rx_buf *rxb)
1363 {
1364         int change;
1365         struct il_rx_pkt *pkt = rxb_addr(rxb);
1366
1367         D_RX("Statistics notification received (%d vs %d).\n",
1368              (int)sizeof(struct il_notif_stats),
1369              le32_to_cpu(pkt->len_n_flags) & IL_RX_FRAME_SIZE_MSK);
1370
1371         change =
1372             ((il->_4965.stats.general.common.temperature !=
1373               pkt->u.stats.general.common.temperature) ||
1374              ((il->_4965.stats.flag & STATS_REPLY_FLG_HT40_MODE_MSK) !=
1375               (pkt->u.stats.flag & STATS_REPLY_FLG_HT40_MODE_MSK)));
1376 #ifdef CONFIG_IWLEGACY_DEBUGFS
1377         il4965_accumulative_stats(il, (__le32 *) &pkt->u.stats);
1378 #endif
1379
1380         /* TODO: reading some of stats is unneeded */
1381         memcpy(&il->_4965.stats, &pkt->u.stats, sizeof(il->_4965.stats));
1382
1383         set_bit(S_STATS, &il->status);
1384
1385         /* Reschedule the stats timer to occur in
1386          * REG_RECALIB_PERIOD seconds to ensure we get a
1387          * thermal update even if the uCode doesn't give
1388          * us one */
1389         mod_timer(&il->stats_periodic,
1390                   jiffies + msecs_to_jiffies(REG_RECALIB_PERIOD * 1000));
1391
1392         if (unlikely(!test_bit(S_SCANNING, &il->status)) &&
1393             (pkt->hdr.cmd == N_STATS)) {
1394                 il4965_rx_calc_noise(il);
1395                 queue_work(il->workqueue, &il->run_time_calib_work);
1396         }
1397         if (il->cfg->ops->lib->temp_ops.temperature && change)
1398                 il->cfg->ops->lib->temp_ops.temperature(il);
1399 }
1400
1401 void
1402 il4965_hdl_c_stats(struct il_priv *il, struct il_rx_buf *rxb)
1403 {
1404         struct il_rx_pkt *pkt = rxb_addr(rxb);
1405
1406         if (le32_to_cpu(pkt->u.stats.flag) & UCODE_STATS_CLEAR_MSK) {
1407 #ifdef CONFIG_IWLEGACY_DEBUGFS
1408                 memset(&il->_4965.accum_stats, 0,
1409                        sizeof(struct il_notif_stats));
1410                 memset(&il->_4965.delta_stats, 0,
1411                        sizeof(struct il_notif_stats));
1412                 memset(&il->_4965.max_delta, 0, sizeof(struct il_notif_stats));
1413 #endif
1414                 D_RX("Statistics have been cleared\n");
1415         }
1416         il4965_hdl_stats(il, rxb);
1417 }
1418
1419
1420 /*
1421  * mac80211 queues, ACs, hardware queues, FIFOs.
1422  *
1423  * Cf. http://wireless.kernel.org/en/developers/Documentation/mac80211/queues
1424  *
1425  * Mac80211 uses the following numbers, which we get as from it
1426  * by way of skb_get_queue_mapping(skb):
1427  *
1428  *     VO      0
1429  *     VI      1
1430  *     BE      2
1431  *     BK      3
1432  *
1433  *
1434  * Regular (not A-MPDU) frames are put into hardware queues corresponding
1435  * to the FIFOs, see comments in iwl-prph.h. Aggregated frames get their
1436  * own queue per aggregation session (RA/TID combination), such queues are
1437  * set up to map into FIFOs too, for which we need an AC->FIFO mapping. In
1438  * order to map frames to the right queue, we also need an AC->hw queue
1439  * mapping. This is implemented here.
1440  *
1441  * Due to the way hw queues are set up (by the hw specific modules like
1442  * 4965.c), the AC->hw queue mapping is the identity
1443  * mapping.
1444  */
1445
1446 static const u8 tid_to_ac[] = {
1447         IEEE80211_AC_BE,
1448         IEEE80211_AC_BK,
1449         IEEE80211_AC_BK,
1450         IEEE80211_AC_BE,
1451         IEEE80211_AC_VI,
1452         IEEE80211_AC_VI,
1453         IEEE80211_AC_VO,
1454         IEEE80211_AC_VO
1455 };
1456
1457 static inline int
1458 il4965_get_ac_from_tid(u16 tid)
1459 {
1460         if (likely(tid < ARRAY_SIZE(tid_to_ac)))
1461                 return tid_to_ac[tid];
1462
1463         /* no support for TIDs 8-15 yet */
1464         return -EINVAL;
1465 }
1466
1467 static inline int
1468 il4965_get_fifo_from_tid(struct il_rxon_context *ctx, u16 tid)
1469 {
1470         if (likely(tid < ARRAY_SIZE(tid_to_ac)))
1471                 return ctx->ac_to_fifo[tid_to_ac[tid]];
1472
1473         /* no support for TIDs 8-15 yet */
1474         return -EINVAL;
1475 }
1476
1477 /*
1478  * handle build C_TX command notification.
1479  */
1480 static void
1481 il4965_tx_cmd_build_basic(struct il_priv *il, struct sk_buff *skb,
1482                           struct il_tx_cmd *tx_cmd,
1483                           struct ieee80211_tx_info *info,
1484                           struct ieee80211_hdr *hdr, u8 std_id)
1485 {
1486         __le16 fc = hdr->frame_control;
1487         __le32 tx_flags = tx_cmd->tx_flags;
1488
1489         tx_cmd->stop_time.life_time = TX_CMD_LIFE_TIME_INFINITE;
1490         if (!(info->flags & IEEE80211_TX_CTL_NO_ACK)) {
1491                 tx_flags |= TX_CMD_FLG_ACK_MSK;
1492                 if (ieee80211_is_mgmt(fc))
1493                         tx_flags |= TX_CMD_FLG_SEQ_CTL_MSK;
1494                 if (ieee80211_is_probe_resp(fc) &&
1495                     !(le16_to_cpu(hdr->seq_ctrl) & 0xf))
1496                         tx_flags |= TX_CMD_FLG_TSF_MSK;
1497         } else {
1498                 tx_flags &= (~TX_CMD_FLG_ACK_MSK);
1499                 tx_flags |= TX_CMD_FLG_SEQ_CTL_MSK;
1500         }
1501
1502         if (ieee80211_is_back_req(fc))
1503                 tx_flags |= TX_CMD_FLG_ACK_MSK | TX_CMD_FLG_IMM_BA_RSP_MASK;
1504
1505         tx_cmd->sta_id = std_id;
1506         if (ieee80211_has_morefrags(fc))
1507                 tx_flags |= TX_CMD_FLG_MORE_FRAG_MSK;
1508
1509         if (ieee80211_is_data_qos(fc)) {
1510                 u8 *qc = ieee80211_get_qos_ctl(hdr);
1511                 tx_cmd->tid_tspec = qc[0] & 0xf;
1512                 tx_flags &= ~TX_CMD_FLG_SEQ_CTL_MSK;
1513         } else {
1514                 tx_flags |= TX_CMD_FLG_SEQ_CTL_MSK;
1515         }
1516
1517         il_tx_cmd_protection(il, info, fc, &tx_flags);
1518
1519         tx_flags &= ~(TX_CMD_FLG_ANT_SEL_MSK);
1520         if (ieee80211_is_mgmt(fc)) {
1521                 if (ieee80211_is_assoc_req(fc) || ieee80211_is_reassoc_req(fc))
1522                         tx_cmd->timeout.pm_frame_timeout = cpu_to_le16(3);
1523                 else
1524                         tx_cmd->timeout.pm_frame_timeout = cpu_to_le16(2);
1525         } else {
1526                 tx_cmd->timeout.pm_frame_timeout = 0;
1527         }
1528
1529         tx_cmd->driver_txop = 0;
1530         tx_cmd->tx_flags = tx_flags;
1531         tx_cmd->next_frame_len = 0;
1532 }
1533
1534 #define RTS_DFAULT_RETRY_LIMIT          60
1535
1536 static void
1537 il4965_tx_cmd_build_rate(struct il_priv *il, struct il_tx_cmd *tx_cmd,
1538                          struct ieee80211_tx_info *info, __le16 fc)
1539 {
1540         u32 rate_flags;
1541         int rate_idx;
1542         u8 rts_retry_limit;
1543         u8 data_retry_limit;
1544         u8 rate_plcp;
1545
1546         /* Set retry limit on DATA packets and Probe Responses */
1547         if (ieee80211_is_probe_resp(fc))
1548                 data_retry_limit = 3;
1549         else
1550                 data_retry_limit = IL4965_DEFAULT_TX_RETRY;
1551         tx_cmd->data_retry_limit = data_retry_limit;
1552
1553         /* Set retry limit on RTS packets */
1554         rts_retry_limit = RTS_DFAULT_RETRY_LIMIT;
1555         if (data_retry_limit < rts_retry_limit)
1556                 rts_retry_limit = data_retry_limit;
1557         tx_cmd->rts_retry_limit = rts_retry_limit;
1558
1559         /* DATA packets will use the uCode station table for rate/antenna
1560          * selection */
1561         if (ieee80211_is_data(fc)) {
1562                 tx_cmd->initial_rate_idx = 0;
1563                 tx_cmd->tx_flags |= TX_CMD_FLG_STA_RATE_MSK;
1564                 return;
1565         }
1566
1567         /**
1568          * If the current TX rate stored in mac80211 has the MCS bit set, it's
1569          * not really a TX rate.  Thus, we use the lowest supported rate for
1570          * this band.  Also use the lowest supported rate if the stored rate
1571          * idx is invalid.
1572          */
1573         rate_idx = info->control.rates[0].idx;
1574         if ((info->control.rates[0].flags & IEEE80211_TX_RC_MCS) || rate_idx < 0
1575             || rate_idx > RATE_COUNT_LEGACY)
1576                 rate_idx =
1577                     rate_lowest_index(&il->bands[info->band],
1578                                       info->control.sta);
1579         /* For 5 GHZ band, remap mac80211 rate indices into driver indices */
1580         if (info->band == IEEE80211_BAND_5GHZ)
1581                 rate_idx += IL_FIRST_OFDM_RATE;
1582         /* Get PLCP rate for tx_cmd->rate_n_flags */
1583         rate_plcp = il_rates[rate_idx].plcp;
1584         /* Zero out flags for this packet */
1585         rate_flags = 0;
1586
1587         /* Set CCK flag as needed */
1588         if (rate_idx >= IL_FIRST_CCK_RATE && rate_idx <= IL_LAST_CCK_RATE)
1589                 rate_flags |= RATE_MCS_CCK_MSK;
1590
1591         /* Set up antennas */
1592         il->mgmt_tx_ant =
1593             il4965_toggle_tx_ant(il, il->mgmt_tx_ant,
1594                                  il->hw_params.valid_tx_ant);
1595
1596         rate_flags |= il4965_ant_idx_to_flags(il->mgmt_tx_ant);
1597
1598         /* Set the rate in the TX cmd */
1599         tx_cmd->rate_n_flags =
1600             il4965_hw_set_rate_n_flags(rate_plcp, rate_flags);
1601 }
1602
1603 static void
1604 il4965_tx_cmd_build_hwcrypto(struct il_priv *il, struct ieee80211_tx_info *info,
1605                              struct il_tx_cmd *tx_cmd, struct sk_buff *skb_frag,
1606                              int sta_id)
1607 {
1608         struct ieee80211_key_conf *keyconf = info->control.hw_key;
1609
1610         switch (keyconf->cipher) {
1611         case WLAN_CIPHER_SUITE_CCMP:
1612                 tx_cmd->sec_ctl = TX_CMD_SEC_CCM;
1613                 memcpy(tx_cmd->key, keyconf->key, keyconf->keylen);
1614                 if (info->flags & IEEE80211_TX_CTL_AMPDU)
1615                         tx_cmd->tx_flags |= TX_CMD_FLG_AGG_CCMP_MSK;
1616                 D_TX("tx_cmd with AES hwcrypto\n");
1617                 break;
1618
1619         case WLAN_CIPHER_SUITE_TKIP:
1620                 tx_cmd->sec_ctl = TX_CMD_SEC_TKIP;
1621                 ieee80211_get_tkip_p2k(keyconf, skb_frag, tx_cmd->key);
1622                 D_TX("tx_cmd with tkip hwcrypto\n");
1623                 break;
1624
1625         case WLAN_CIPHER_SUITE_WEP104:
1626                 tx_cmd->sec_ctl |= TX_CMD_SEC_KEY128;
1627                 /* fall through */
1628         case WLAN_CIPHER_SUITE_WEP40:
1629                 tx_cmd->sec_ctl |=
1630                     (TX_CMD_SEC_WEP | (keyconf->keyidx & TX_CMD_SEC_MSK) <<
1631                      TX_CMD_SEC_SHIFT);
1632
1633                 memcpy(&tx_cmd->key[3], keyconf->key, keyconf->keylen);
1634
1635                 D_TX("Configuring packet for WEP encryption " "with key %d\n",
1636                      keyconf->keyidx);
1637                 break;
1638
1639         default:
1640                 IL_ERR("Unknown encode cipher %x\n", keyconf->cipher);
1641                 break;
1642         }
1643 }
1644
1645 /*
1646  * start C_TX command process
1647  */
1648 int
1649 il4965_tx_skb(struct il_priv *il, struct sk_buff *skb)
1650 {
1651         struct ieee80211_hdr *hdr = (struct ieee80211_hdr *)skb->data;
1652         struct ieee80211_tx_info *info = IEEE80211_SKB_CB(skb);
1653         struct ieee80211_sta *sta = info->control.sta;
1654         struct il_station_priv *sta_priv = NULL;
1655         struct il_tx_queue *txq;
1656         struct il_queue *q;
1657         struct il_device_cmd *out_cmd;
1658         struct il_cmd_meta *out_meta;
1659         struct il_tx_cmd *tx_cmd;
1660         struct il_rxon_context *ctx = &il->ctx;
1661         int txq_id;
1662         dma_addr_t phys_addr;
1663         dma_addr_t txcmd_phys;
1664         dma_addr_t scratch_phys;
1665         u16 len, firstlen, secondlen;
1666         u16 seq_number = 0;
1667         __le16 fc;
1668         u8 hdr_len;
1669         u8 sta_id;
1670         u8 wait_write_ptr = 0;
1671         u8 tid = 0;
1672         u8 *qc = NULL;
1673         unsigned long flags;
1674         bool is_agg = false;
1675
1676         if (info->control.vif)
1677                 ctx = il_rxon_ctx_from_vif(info->control.vif);
1678
1679         spin_lock_irqsave(&il->lock, flags);
1680         if (il_is_rfkill(il)) {
1681                 D_DROP("Dropping - RF KILL\n");
1682                 goto drop_unlock;
1683         }
1684
1685         fc = hdr->frame_control;
1686
1687 #ifdef CONFIG_IWLEGACY_DEBUG
1688         if (ieee80211_is_auth(fc))
1689                 D_TX("Sending AUTH frame\n");
1690         else if (ieee80211_is_assoc_req(fc))
1691                 D_TX("Sending ASSOC frame\n");
1692         else if (ieee80211_is_reassoc_req(fc))
1693                 D_TX("Sending REASSOC frame\n");
1694 #endif
1695
1696         hdr_len = ieee80211_hdrlen(fc);
1697
1698         /* For management frames use broadcast id to do not break aggregation */
1699         if (!ieee80211_is_data(fc))
1700                 sta_id = ctx->bcast_sta_id;
1701         else {
1702                 /* Find idx into station table for destination station */
1703                 sta_id = il_sta_id_or_broadcast(il, ctx, info->control.sta);
1704
1705                 if (sta_id == IL_INVALID_STATION) {
1706                         D_DROP("Dropping - INVALID STATION: %pM\n", hdr->addr1);
1707                         goto drop_unlock;
1708                 }
1709         }
1710
1711         D_TX("station Id %d\n", sta_id);
1712
1713         if (sta)
1714                 sta_priv = (void *)sta->drv_priv;
1715
1716         if (sta_priv && sta_priv->asleep &&
1717             (info->flags & IEEE80211_TX_CTL_POLL_RESPONSE)) {
1718                 /*
1719                  * This sends an asynchronous command to the device,
1720                  * but we can rely on it being processed before the
1721                  * next frame is processed -- and the next frame to
1722                  * this station is the one that will consume this
1723                  * counter.
1724                  * For now set the counter to just 1 since we do not
1725                  * support uAPSD yet.
1726                  */
1727                 il4965_sta_modify_sleep_tx_count(il, sta_id, 1);
1728         }
1729
1730         /*
1731          * Send this frame after DTIM -- there's a special queue
1732          * reserved for this for contexts that support AP mode.
1733          */
1734         if (info->flags & IEEE80211_TX_CTL_SEND_AFTER_DTIM) {
1735                 txq_id = ctx->mcast_queue;
1736                 /*
1737                  * The microcode will clear the more data
1738                  * bit in the last frame it transmits.
1739                  */
1740                 hdr->frame_control |= cpu_to_le16(IEEE80211_FCTL_MOREDATA);
1741         } else
1742                 txq_id = ctx->ac_to_queue[skb_get_queue_mapping(skb)];
1743
1744         /* irqs already disabled/saved above when locking il->lock */
1745         spin_lock(&il->sta_lock);
1746
1747         if (ieee80211_is_data_qos(fc)) {
1748                 qc = ieee80211_get_qos_ctl(hdr);
1749                 tid = qc[0] & IEEE80211_QOS_CTL_TID_MASK;
1750                 if (WARN_ON_ONCE(tid >= MAX_TID_COUNT)) {
1751                         spin_unlock(&il->sta_lock);
1752                         goto drop_unlock;
1753                 }
1754                 seq_number = il->stations[sta_id].tid[tid].seq_number;
1755                 seq_number &= IEEE80211_SCTL_SEQ;
1756                 hdr->seq_ctrl =
1757                     hdr->seq_ctrl & cpu_to_le16(IEEE80211_SCTL_FRAG);
1758                 hdr->seq_ctrl |= cpu_to_le16(seq_number);
1759                 seq_number += 0x10;
1760                 /* aggregation is on for this <sta,tid> */
1761                 if (info->flags & IEEE80211_TX_CTL_AMPDU &&
1762                     il->stations[sta_id].tid[tid].agg.state == IL_AGG_ON) {
1763                         txq_id = il->stations[sta_id].tid[tid].agg.txq_id;
1764                         is_agg = true;
1765                 }
1766         }
1767
1768         txq = &il->txq[txq_id];
1769         q = &txq->q;
1770
1771         if (unlikely(il_queue_space(q) < q->high_mark)) {
1772                 spin_unlock(&il->sta_lock);
1773                 goto drop_unlock;
1774         }
1775
1776         if (ieee80211_is_data_qos(fc)) {
1777                 il->stations[sta_id].tid[tid].tfds_in_queue++;
1778                 if (!ieee80211_has_morefrags(fc))
1779                         il->stations[sta_id].tid[tid].seq_number = seq_number;
1780         }
1781
1782         spin_unlock(&il->sta_lock);
1783
1784         /* Set up driver data for this TFD */
1785         memset(&(txq->txb[q->write_ptr]), 0, sizeof(struct il_tx_info));
1786         txq->txb[q->write_ptr].skb = skb;
1787         txq->txb[q->write_ptr].ctx = ctx;
1788
1789         /* Set up first empty entry in queue's array of Tx/cmd buffers */
1790         out_cmd = txq->cmd[q->write_ptr];
1791         out_meta = &txq->meta[q->write_ptr];
1792         tx_cmd = &out_cmd->cmd.tx;
1793         memset(&out_cmd->hdr, 0, sizeof(out_cmd->hdr));
1794         memset(tx_cmd, 0, sizeof(struct il_tx_cmd));
1795
1796         /*
1797          * Set up the Tx-command (not MAC!) header.
1798          * Store the chosen Tx queue and TFD idx within the sequence field;
1799          * after Tx, uCode's Tx response will return this value so driver can
1800          * locate the frame within the tx queue and do post-tx processing.
1801          */
1802         out_cmd->hdr.cmd = C_TX;
1803         out_cmd->hdr.sequence =
1804             cpu_to_le16((u16)
1805                         (QUEUE_TO_SEQ(txq_id) | IDX_TO_SEQ(q->write_ptr)));
1806
1807         /* Copy MAC header from skb into command buffer */
1808         memcpy(tx_cmd->hdr, hdr, hdr_len);
1809
1810         /* Total # bytes to be transmitted */
1811         len = (u16) skb->len;
1812         tx_cmd->len = cpu_to_le16(len);
1813
1814         if (info->control.hw_key)
1815                 il4965_tx_cmd_build_hwcrypto(il, info, tx_cmd, skb, sta_id);
1816
1817         /* TODO need this for burst mode later on */
1818         il4965_tx_cmd_build_basic(il, skb, tx_cmd, info, hdr, sta_id);
1819         il_dbg_log_tx_data_frame(il, len, hdr);
1820
1821         il4965_tx_cmd_build_rate(il, tx_cmd, info, fc);
1822
1823         il_update_stats(il, true, fc, len);
1824         /*
1825          * Use the first empty entry in this queue's command buffer array
1826          * to contain the Tx command and MAC header concatenated together
1827          * (payload data will be in another buffer).
1828          * Size of this varies, due to varying MAC header length.
1829          * If end is not dword aligned, we'll have 2 extra bytes at the end
1830          * of the MAC header (device reads on dword boundaries).
1831          * We'll tell device about this padding later.
1832          */
1833         len = sizeof(struct il_tx_cmd) + sizeof(struct il_cmd_header) + hdr_len;
1834         firstlen = (len + 3) & ~3;
1835
1836         /* Tell NIC about any 2-byte padding after MAC header */
1837         if (firstlen != len)
1838                 tx_cmd->tx_flags |= TX_CMD_FLG_MH_PAD_MSK;
1839
1840         /* Physical address of this Tx command's header (not MAC header!),
1841          * within command buffer array. */
1842         txcmd_phys =
1843             pci_map_single(il->pci_dev, &out_cmd->hdr, firstlen,
1844                            PCI_DMA_BIDIRECTIONAL);
1845         dma_unmap_addr_set(out_meta, mapping, txcmd_phys);
1846         dma_unmap_len_set(out_meta, len, firstlen);
1847         /* Add buffer containing Tx command and MAC(!) header to TFD's
1848          * first entry */
1849         il->cfg->ops->lib->txq_attach_buf_to_tfd(il, txq, txcmd_phys, firstlen,
1850                                                  1, 0);
1851
1852         if (!ieee80211_has_morefrags(hdr->frame_control)) {
1853                 txq->need_update = 1;
1854         } else {
1855                 wait_write_ptr = 1;
1856                 txq->need_update = 0;
1857         }
1858
1859         /* Set up TFD's 2nd entry to point directly to remainder of skb,
1860          * if any (802.11 null frames have no payload). */
1861         secondlen = skb->len - hdr_len;
1862         if (secondlen > 0) {
1863                 phys_addr =
1864                     pci_map_single(il->pci_dev, skb->data + hdr_len, secondlen,
1865                                    PCI_DMA_TODEVICE);
1866                 il->cfg->ops->lib->txq_attach_buf_to_tfd(il, txq, phys_addr,
1867                                                          secondlen, 0, 0);
1868         }
1869
1870         scratch_phys =
1871             txcmd_phys + sizeof(struct il_cmd_header) +
1872             offsetof(struct il_tx_cmd, scratch);
1873
1874         /* take back ownership of DMA buffer to enable update */
1875         pci_dma_sync_single_for_cpu(il->pci_dev, txcmd_phys, firstlen,
1876                                     PCI_DMA_BIDIRECTIONAL);
1877         tx_cmd->dram_lsb_ptr = cpu_to_le32(scratch_phys);
1878         tx_cmd->dram_msb_ptr = il_get_dma_hi_addr(scratch_phys);
1879
1880         D_TX("sequence nr = 0X%x\n", le16_to_cpu(out_cmd->hdr.sequence));
1881         D_TX("tx_flags = 0X%x\n", le32_to_cpu(tx_cmd->tx_flags));
1882         il_print_hex_dump(il, IL_DL_TX, (u8 *) tx_cmd, sizeof(*tx_cmd));
1883         il_print_hex_dump(il, IL_DL_TX, (u8 *) tx_cmd->hdr, hdr_len);
1884
1885         /* Set up entry for this TFD in Tx byte-count array */
1886         if (info->flags & IEEE80211_TX_CTL_AMPDU)
1887                 il->cfg->ops->lib->txq_update_byte_cnt_tbl(il, txq,
1888                                                            le16_to_cpu(tx_cmd->
1889                                                                        len));
1890
1891         pci_dma_sync_single_for_device(il->pci_dev, txcmd_phys, firstlen,
1892                                        PCI_DMA_BIDIRECTIONAL);
1893
1894         /* Tell device the write idx *just past* this latest filled TFD */
1895         q->write_ptr = il_queue_inc_wrap(q->write_ptr, q->n_bd);
1896         il_txq_update_write_ptr(il, txq);
1897         spin_unlock_irqrestore(&il->lock, flags);
1898
1899         /*
1900          * At this point the frame is "transmitted" successfully
1901          * and we will get a TX status notification eventually,
1902          * regardless of the value of ret. "ret" only indicates
1903          * whether or not we should update the write pointer.
1904          */
1905
1906         /*
1907          * Avoid atomic ops if it isn't an associated client.
1908          * Also, if this is a packet for aggregation, don't
1909          * increase the counter because the ucode will stop
1910          * aggregation queues when their respective station
1911          * goes to sleep.
1912          */
1913         if (sta_priv && sta_priv->client && !is_agg)
1914                 atomic_inc(&sta_priv->pending_frames);
1915
1916         if (il_queue_space(q) < q->high_mark && il->mac80211_registered) {
1917                 if (wait_write_ptr) {
1918                         spin_lock_irqsave(&il->lock, flags);
1919                         txq->need_update = 1;
1920                         il_txq_update_write_ptr(il, txq);
1921                         spin_unlock_irqrestore(&il->lock, flags);
1922                 } else {
1923                         il_stop_queue(il, txq);
1924                 }
1925         }
1926
1927         return 0;
1928
1929 drop_unlock:
1930         spin_unlock_irqrestore(&il->lock, flags);
1931         return -1;
1932 }
1933
1934 static inline int
1935 il4965_alloc_dma_ptr(struct il_priv *il, struct il_dma_ptr *ptr, size_t size)
1936 {
1937         ptr->addr =
1938             dma_alloc_coherent(&il->pci_dev->dev, size, &ptr->dma, GFP_KERNEL);
1939         if (!ptr->addr)
1940                 return -ENOMEM;
1941         ptr->size = size;
1942         return 0;
1943 }
1944
1945 static inline void
1946 il4965_free_dma_ptr(struct il_priv *il, struct il_dma_ptr *ptr)
1947 {
1948         if (unlikely(!ptr->addr))
1949                 return;
1950
1951         dma_free_coherent(&il->pci_dev->dev, ptr->size, ptr->addr, ptr->dma);
1952         memset(ptr, 0, sizeof(*ptr));
1953 }
1954
1955 /**
1956  * il4965_hw_txq_ctx_free - Free TXQ Context
1957  *
1958  * Destroy all TX DMA queues and structures
1959  */
1960 void
1961 il4965_hw_txq_ctx_free(struct il_priv *il)
1962 {
1963         int txq_id;
1964
1965         /* Tx queues */
1966         if (il->txq) {
1967                 for (txq_id = 0; txq_id < il->hw_params.max_txq_num; txq_id++)
1968                         if (txq_id == il->cmd_queue)
1969                                 il_cmd_queue_free(il);
1970                         else
1971                                 il_tx_queue_free(il, txq_id);
1972         }
1973         il4965_free_dma_ptr(il, &il->kw);
1974
1975         il4965_free_dma_ptr(il, &il->scd_bc_tbls);
1976
1977         /* free tx queue structure */
1978         il_txq_mem(il);
1979 }
1980
1981 /**
1982  * il4965_txq_ctx_alloc - allocate TX queue context
1983  * Allocate all Tx DMA structures and initialize them
1984  *
1985  * @param il
1986  * @return error code
1987  */
1988 int
1989 il4965_txq_ctx_alloc(struct il_priv *il)
1990 {
1991         int ret;
1992         int txq_id, slots_num;
1993         unsigned long flags;
1994
1995         /* Free all tx/cmd queues and keep-warm buffer */
1996         il4965_hw_txq_ctx_free(il);
1997
1998         ret =
1999             il4965_alloc_dma_ptr(il, &il->scd_bc_tbls,
2000                                  il->hw_params.scd_bc_tbls_size);
2001         if (ret) {
2002                 IL_ERR("Scheduler BC Table allocation failed\n");
2003                 goto error_bc_tbls;
2004         }
2005         /* Alloc keep-warm buffer */
2006         ret = il4965_alloc_dma_ptr(il, &il->kw, IL_KW_SIZE);
2007         if (ret) {
2008                 IL_ERR("Keep Warm allocation failed\n");
2009                 goto error_kw;
2010         }
2011
2012         /* allocate tx queue structure */
2013         ret = il_alloc_txq_mem(il);
2014         if (ret)
2015                 goto error;
2016
2017         spin_lock_irqsave(&il->lock, flags);
2018
2019         /* Turn off all Tx DMA fifos */
2020         il4965_txq_set_sched(il, 0);
2021
2022         /* Tell NIC where to find the "keep warm" buffer */
2023         il_wr(il, FH49_KW_MEM_ADDR_REG, il->kw.dma >> 4);
2024
2025         spin_unlock_irqrestore(&il->lock, flags);
2026
2027         /* Alloc and init all Tx queues, including the command queue (#4/#9) */
2028         for (txq_id = 0; txq_id < il->hw_params.max_txq_num; txq_id++) {
2029                 slots_num =
2030                     (txq_id ==
2031                      il->cmd_queue) ? TFD_CMD_SLOTS : TFD_TX_CMD_SLOTS;
2032                 ret = il_tx_queue_init(il, &il->txq[txq_id], slots_num, txq_id);
2033                 if (ret) {
2034                         IL_ERR("Tx %d queue init failed\n", txq_id);
2035                         goto error;
2036                 }
2037         }
2038
2039         return ret;
2040
2041 error:
2042         il4965_hw_txq_ctx_free(il);
2043         il4965_free_dma_ptr(il, &il->kw);
2044 error_kw:
2045         il4965_free_dma_ptr(il, &il->scd_bc_tbls);
2046 error_bc_tbls:
2047         return ret;
2048 }
2049
2050 void
2051 il4965_txq_ctx_reset(struct il_priv *il)
2052 {
2053         int txq_id, slots_num;
2054         unsigned long flags;
2055
2056         spin_lock_irqsave(&il->lock, flags);
2057
2058         /* Turn off all Tx DMA fifos */
2059         il4965_txq_set_sched(il, 0);
2060
2061         /* Tell NIC where to find the "keep warm" buffer */
2062         il_wr(il, FH49_KW_MEM_ADDR_REG, il->kw.dma >> 4);
2063
2064         spin_unlock_irqrestore(&il->lock, flags);
2065
2066         /* Alloc and init all Tx queues, including the command queue (#4) */
2067         for (txq_id = 0; txq_id < il->hw_params.max_txq_num; txq_id++) {
2068                 slots_num =
2069                     txq_id == il->cmd_queue ? TFD_CMD_SLOTS : TFD_TX_CMD_SLOTS;
2070                 il_tx_queue_reset(il, &il->txq[txq_id], slots_num, txq_id);
2071         }
2072 }
2073
2074 /**
2075  * il4965_txq_ctx_stop - Stop all Tx DMA channels
2076  */
2077 void
2078 il4965_txq_ctx_stop(struct il_priv *il)
2079 {
2080         int ch, txq_id;
2081         unsigned long flags;
2082
2083         /* Turn off all Tx DMA fifos */
2084         spin_lock_irqsave(&il->lock, flags);
2085
2086         il4965_txq_set_sched(il, 0);
2087
2088         /* Stop each Tx DMA channel, and wait for it to be idle */
2089         for (ch = 0; ch < il->hw_params.dma_chnl_num; ch++) {
2090                 il_wr(il, FH49_TCSR_CHNL_TX_CONFIG_REG(ch), 0x0);
2091                 if (il_poll_bit
2092                     (il, FH49_TSSR_TX_STATUS_REG,
2093                      FH49_TSSR_TX_STATUS_REG_MSK_CHNL_IDLE(ch), 1000))
2094                         IL_ERR("Failing on timeout while stopping"
2095                                " DMA channel %d [0x%08x]", ch,
2096                                il_rd(il, FH49_TSSR_TX_STATUS_REG));
2097         }
2098         spin_unlock_irqrestore(&il->lock, flags);
2099
2100         if (!il->txq)
2101                 return;
2102
2103         /* Unmap DMA from host system and free skb's */
2104         for (txq_id = 0; txq_id < il->hw_params.max_txq_num; txq_id++)
2105                 if (txq_id == il->cmd_queue)
2106                         il_cmd_queue_unmap(il);
2107                 else
2108                         il_tx_queue_unmap(il, txq_id);
2109 }
2110
2111 /*
2112  * Find first available (lowest unused) Tx Queue, mark it "active".
2113  * Called only when finding queue for aggregation.
2114  * Should never return anything < 7, because they should already
2115  * be in use as EDCA AC (0-3), Command (4), reserved (5, 6)
2116  */
2117 static int
2118 il4965_txq_ctx_activate_free(struct il_priv *il)
2119 {
2120         int txq_id;
2121
2122         for (txq_id = 0; txq_id < il->hw_params.max_txq_num; txq_id++)
2123                 if (!test_and_set_bit(txq_id, &il->txq_ctx_active_msk))
2124                         return txq_id;
2125         return -1;
2126 }
2127
2128 /**
2129  * il4965_tx_queue_stop_scheduler - Stop queue, but keep configuration
2130  */
2131 static void
2132 il4965_tx_queue_stop_scheduler(struct il_priv *il, u16 txq_id)
2133 {
2134         /* Simply stop the queue, but don't change any configuration;
2135          * the SCD_ACT_EN bit is the write-enable mask for the ACTIVE bit. */
2136         il_wr_prph(il, IL49_SCD_QUEUE_STATUS_BITS(txq_id),
2137                    (0 << IL49_SCD_QUEUE_STTS_REG_POS_ACTIVE) |
2138                    (1 << IL49_SCD_QUEUE_STTS_REG_POS_SCD_ACT_EN));
2139 }
2140
2141 /**
2142  * il4965_tx_queue_set_q2ratid - Map unique receiver/tid combination to a queue
2143  */
2144 static int
2145 il4965_tx_queue_set_q2ratid(struct il_priv *il, u16 ra_tid, u16 txq_id)
2146 {
2147         u32 tbl_dw_addr;
2148         u32 tbl_dw;
2149         u16 scd_q2ratid;
2150
2151         scd_q2ratid = ra_tid & IL_SCD_QUEUE_RA_TID_MAP_RATID_MSK;
2152
2153         tbl_dw_addr =
2154             il->scd_base_addr + IL49_SCD_TRANSLATE_TBL_OFFSET_QUEUE(txq_id);
2155
2156         tbl_dw = il_read_targ_mem(il, tbl_dw_addr);
2157
2158         if (txq_id & 0x1)
2159                 tbl_dw = (scd_q2ratid << 16) | (tbl_dw & 0x0000FFFF);
2160         else
2161                 tbl_dw = scd_q2ratid | (tbl_dw & 0xFFFF0000);
2162
2163         il_write_targ_mem(il, tbl_dw_addr, tbl_dw);
2164
2165         return 0;
2166 }
2167
2168 /**
2169  * il4965_tx_queue_agg_enable - Set up & enable aggregation for selected queue
2170  *
2171  * NOTE:  txq_id must be greater than IL49_FIRST_AMPDU_QUEUE,
2172  *        i.e. it must be one of the higher queues used for aggregation
2173  */
2174 static int
2175 il4965_txq_agg_enable(struct il_priv *il, int txq_id, int tx_fifo, int sta_id,
2176                       int tid, u16 ssn_idx)
2177 {
2178         unsigned long flags;
2179         u16 ra_tid;
2180         int ret;
2181
2182         if ((IL49_FIRST_AMPDU_QUEUE > txq_id) ||
2183             (IL49_FIRST_AMPDU_QUEUE +
2184              il->cfg->base_params->num_of_ampdu_queues <= txq_id)) {
2185                 IL_WARN("queue number out of range: %d, must be %d to %d\n",
2186                         txq_id, IL49_FIRST_AMPDU_QUEUE,
2187                         IL49_FIRST_AMPDU_QUEUE +
2188                         il->cfg->base_params->num_of_ampdu_queues - 1);
2189                 return -EINVAL;
2190         }
2191
2192         ra_tid = BUILD_RAxTID(sta_id, tid);
2193
2194         /* Modify device's station table to Tx this TID */
2195         ret = il4965_sta_tx_modify_enable_tid(il, sta_id, tid);
2196         if (ret)
2197                 return ret;
2198
2199         spin_lock_irqsave(&il->lock, flags);
2200
2201         /* Stop this Tx queue before configuring it */
2202         il4965_tx_queue_stop_scheduler(il, txq_id);
2203
2204         /* Map receiver-address / traffic-ID to this queue */
2205         il4965_tx_queue_set_q2ratid(il, ra_tid, txq_id);
2206
2207         /* Set this queue as a chain-building queue */
2208         il_set_bits_prph(il, IL49_SCD_QUEUECHAIN_SEL, (1 << txq_id));
2209
2210         /* Place first TFD at idx corresponding to start sequence number.
2211          * Assumes that ssn_idx is valid (!= 0xFFF) */
2212         il->txq[txq_id].q.read_ptr = (ssn_idx & 0xff);
2213         il->txq[txq_id].q.write_ptr = (ssn_idx & 0xff);
2214         il4965_set_wr_ptrs(il, txq_id, ssn_idx);
2215
2216         /* Set up Tx win size and frame limit for this queue */
2217         il_write_targ_mem(il,
2218                           il->scd_base_addr +
2219                           IL49_SCD_CONTEXT_QUEUE_OFFSET(txq_id),
2220                           (SCD_WIN_SIZE << IL49_SCD_QUEUE_CTX_REG1_WIN_SIZE_POS)
2221                           & IL49_SCD_QUEUE_CTX_REG1_WIN_SIZE_MSK);
2222
2223         il_write_targ_mem(il,
2224                           il->scd_base_addr +
2225                           IL49_SCD_CONTEXT_QUEUE_OFFSET(txq_id) + sizeof(u32),
2226                           (SCD_FRAME_LIMIT <<
2227                            IL49_SCD_QUEUE_CTX_REG2_FRAME_LIMIT_POS) &
2228                           IL49_SCD_QUEUE_CTX_REG2_FRAME_LIMIT_MSK);
2229
2230         il_set_bits_prph(il, IL49_SCD_INTERRUPT_MASK, (1 << txq_id));
2231
2232         /* Set up Status area in SRAM, map to Tx DMA/FIFO, activate the queue */
2233         il4965_tx_queue_set_status(il, &il->txq[txq_id], tx_fifo, 1);
2234
2235         spin_unlock_irqrestore(&il->lock, flags);
2236
2237         return 0;
2238 }
2239
2240 int
2241 il4965_tx_agg_start(struct il_priv *il, struct ieee80211_vif *vif,
2242                     struct ieee80211_sta *sta, u16 tid, u16 * ssn)
2243 {
2244         int sta_id;
2245         int tx_fifo;
2246         int txq_id;
2247         int ret;
2248         unsigned long flags;
2249         struct il_tid_data *tid_data;
2250
2251         tx_fifo = il4965_get_fifo_from_tid(il_rxon_ctx_from_vif(vif), tid);
2252         if (unlikely(tx_fifo < 0))
2253                 return tx_fifo;
2254
2255         D_HT("%s on ra = %pM tid = %d\n", __func__, sta->addr, tid);
2256
2257         sta_id = il_sta_id(sta);
2258         if (sta_id == IL_INVALID_STATION) {
2259                 IL_ERR("Start AGG on invalid station\n");
2260                 return -ENXIO;
2261         }
2262         if (unlikely(tid >= MAX_TID_COUNT))
2263                 return -EINVAL;
2264
2265         if (il->stations[sta_id].tid[tid].agg.state != IL_AGG_OFF) {
2266                 IL_ERR("Start AGG when state is not IL_AGG_OFF !\n");
2267                 return -ENXIO;
2268         }
2269
2270         txq_id = il4965_txq_ctx_activate_free(il);
2271         if (txq_id == -1) {
2272                 IL_ERR("No free aggregation queue available\n");
2273                 return -ENXIO;
2274         }
2275
2276         spin_lock_irqsave(&il->sta_lock, flags);
2277         tid_data = &il->stations[sta_id].tid[tid];
2278         *ssn = SEQ_TO_SN(tid_data->seq_number);
2279         tid_data->agg.txq_id = txq_id;
2280         il_set_swq_id(&il->txq[txq_id], il4965_get_ac_from_tid(tid), txq_id);
2281         spin_unlock_irqrestore(&il->sta_lock, flags);
2282
2283         ret = il4965_txq_agg_enable(il, txq_id, tx_fifo, sta_id, tid, *ssn);
2284         if (ret)
2285                 return ret;
2286
2287         spin_lock_irqsave(&il->sta_lock, flags);
2288         tid_data = &il->stations[sta_id].tid[tid];
2289         if (tid_data->tfds_in_queue == 0) {
2290                 D_HT("HW queue is empty\n");
2291                 tid_data->agg.state = IL_AGG_ON;
2292                 ieee80211_start_tx_ba_cb_irqsafe(vif, sta->addr, tid);
2293         } else {
2294                 D_HT("HW queue is NOT empty: %d packets in HW queue\n",
2295                      tid_data->tfds_in_queue);
2296                 tid_data->agg.state = IL_EMPTYING_HW_QUEUE_ADDBA;
2297         }
2298         spin_unlock_irqrestore(&il->sta_lock, flags);
2299         return ret;
2300 }
2301
2302 /**
2303  * txq_id must be greater than IL49_FIRST_AMPDU_QUEUE
2304  * il->lock must be held by the caller
2305  */
2306 static int
2307 il4965_txq_agg_disable(struct il_priv *il, u16 txq_id, u16 ssn_idx, u8 tx_fifo)
2308 {
2309         if ((IL49_FIRST_AMPDU_QUEUE > txq_id) ||
2310             (IL49_FIRST_AMPDU_QUEUE +
2311              il->cfg->base_params->num_of_ampdu_queues <= txq_id)) {
2312                 IL_WARN("queue number out of range: %d, must be %d to %d\n",
2313                         txq_id, IL49_FIRST_AMPDU_QUEUE,
2314                         IL49_FIRST_AMPDU_QUEUE +
2315                         il->cfg->base_params->num_of_ampdu_queues - 1);
2316                 return -EINVAL;
2317         }
2318
2319         il4965_tx_queue_stop_scheduler(il, txq_id);
2320
2321         il_clear_bits_prph(il, IL49_SCD_QUEUECHAIN_SEL, (1 << txq_id));
2322
2323         il->txq[txq_id].q.read_ptr = (ssn_idx & 0xff);
2324         il->txq[txq_id].q.write_ptr = (ssn_idx & 0xff);
2325         /* supposes that ssn_idx is valid (!= 0xFFF) */
2326         il4965_set_wr_ptrs(il, txq_id, ssn_idx);
2327
2328         il_clear_bits_prph(il, IL49_SCD_INTERRUPT_MASK, (1 << txq_id));
2329         il_txq_ctx_deactivate(il, txq_id);
2330         il4965_tx_queue_set_status(il, &il->txq[txq_id], tx_fifo, 0);
2331
2332         return 0;
2333 }
2334
2335 int
2336 il4965_tx_agg_stop(struct il_priv *il, struct ieee80211_vif *vif,
2337                    struct ieee80211_sta *sta, u16 tid)
2338 {
2339         int tx_fifo_id, txq_id, sta_id, ssn;
2340         struct il_tid_data *tid_data;
2341         int write_ptr, read_ptr;
2342         unsigned long flags;
2343
2344         tx_fifo_id = il4965_get_fifo_from_tid(il_rxon_ctx_from_vif(vif), tid);
2345         if (unlikely(tx_fifo_id < 0))
2346                 return tx_fifo_id;
2347
2348         sta_id = il_sta_id(sta);
2349
2350         if (sta_id == IL_INVALID_STATION) {
2351                 IL_ERR("Invalid station for AGG tid %d\n", tid);
2352                 return -ENXIO;
2353         }
2354
2355         spin_lock_irqsave(&il->sta_lock, flags);
2356
2357         tid_data = &il->stations[sta_id].tid[tid];
2358         ssn = (tid_data->seq_number & IEEE80211_SCTL_SEQ) >> 4;
2359         txq_id = tid_data->agg.txq_id;
2360
2361         switch (il->stations[sta_id].tid[tid].agg.state) {
2362         case IL_EMPTYING_HW_QUEUE_ADDBA:
2363                 /*
2364                  * This can happen if the peer stops aggregation
2365                  * again before we've had a chance to drain the
2366                  * queue we selected previously, i.e. before the
2367                  * session was really started completely.
2368                  */
2369                 D_HT("AGG stop before setup done\n");
2370                 goto turn_off;
2371         case IL_AGG_ON:
2372                 break;
2373         default:
2374                 IL_WARN("Stopping AGG while state not ON or starting\n");
2375         }
2376
2377         write_ptr = il->txq[txq_id].q.write_ptr;
2378         read_ptr = il->txq[txq_id].q.read_ptr;
2379
2380         /* The queue is not empty */
2381         if (write_ptr != read_ptr) {
2382                 D_HT("Stopping a non empty AGG HW QUEUE\n");
2383                 il->stations[sta_id].tid[tid].agg.state =
2384                     IL_EMPTYING_HW_QUEUE_DELBA;
2385                 spin_unlock_irqrestore(&il->sta_lock, flags);
2386                 return 0;
2387         }
2388
2389         D_HT("HW queue is empty\n");
2390 turn_off:
2391         il->stations[sta_id].tid[tid].agg.state = IL_AGG_OFF;
2392
2393         /* do not restore/save irqs */
2394         spin_unlock(&il->sta_lock);
2395         spin_lock(&il->lock);
2396
2397         /*
2398          * the only reason this call can fail is queue number out of range,
2399          * which can happen if uCode is reloaded and all the station
2400          * information are lost. if it is outside the range, there is no need
2401          * to deactivate the uCode queue, just return "success" to allow
2402          *  mac80211 to clean up it own data.
2403          */
2404         il4965_txq_agg_disable(il, txq_id, ssn, tx_fifo_id);
2405         spin_unlock_irqrestore(&il->lock, flags);
2406
2407         ieee80211_stop_tx_ba_cb_irqsafe(vif, sta->addr, tid);
2408
2409         return 0;
2410 }
2411
2412 int
2413 il4965_txq_check_empty(struct il_priv *il, int sta_id, u8 tid, int txq_id)
2414 {
2415         struct il_queue *q = &il->txq[txq_id].q;
2416         u8 *addr = il->stations[sta_id].sta.sta.addr;
2417         struct il_tid_data *tid_data = &il->stations[sta_id].tid[tid];
2418         struct il_rxon_context *ctx;
2419
2420         ctx = &il->ctx;
2421
2422         lockdep_assert_held(&il->sta_lock);
2423
2424         switch (il->stations[sta_id].tid[tid].agg.state) {
2425         case IL_EMPTYING_HW_QUEUE_DELBA:
2426                 /* We are reclaiming the last packet of the */
2427                 /* aggregated HW queue */
2428                 if (txq_id == tid_data->agg.txq_id &&
2429                     q->read_ptr == q->write_ptr) {
2430                         u16 ssn = SEQ_TO_SN(tid_data->seq_number);
2431                         int tx_fifo = il4965_get_fifo_from_tid(ctx, tid);
2432                         D_HT("HW queue empty: continue DELBA flow\n");
2433                         il4965_txq_agg_disable(il, txq_id, ssn, tx_fifo);
2434                         tid_data->agg.state = IL_AGG_OFF;
2435                         ieee80211_stop_tx_ba_cb_irqsafe(ctx->vif, addr, tid);
2436                 }
2437                 break;
2438         case IL_EMPTYING_HW_QUEUE_ADDBA:
2439                 /* We are reclaiming the last packet of the queue */
2440                 if (tid_data->tfds_in_queue == 0) {
2441                         D_HT("HW queue empty: continue ADDBA flow\n");
2442                         tid_data->agg.state = IL_AGG_ON;
2443                         ieee80211_start_tx_ba_cb_irqsafe(ctx->vif, addr, tid);
2444                 }
2445                 break;
2446         }
2447
2448         return 0;
2449 }
2450
2451 static void
2452 il4965_non_agg_tx_status(struct il_priv *il, struct il_rxon_context *ctx,
2453                          const u8 *addr1)
2454 {
2455         struct ieee80211_sta *sta;
2456         struct il_station_priv *sta_priv;
2457
2458         rcu_read_lock();
2459         sta = ieee80211_find_sta(ctx->vif, addr1);
2460         if (sta) {
2461                 sta_priv = (void *)sta->drv_priv;
2462                 /* avoid atomic ops if this isn't a client */
2463                 if (sta_priv->client &&
2464                     atomic_dec_return(&sta_priv->pending_frames) == 0)
2465                         ieee80211_sta_block_awake(il->hw, sta, false);
2466         }
2467         rcu_read_unlock();
2468 }
2469
2470 static void
2471 il4965_tx_status(struct il_priv *il, struct il_tx_info *tx_info, bool is_agg)
2472 {
2473         struct ieee80211_hdr *hdr = (struct ieee80211_hdr *)tx_info->skb->data;
2474
2475         if (!is_agg)
2476                 il4965_non_agg_tx_status(il, tx_info->ctx, hdr->addr1);
2477
2478         ieee80211_tx_status_irqsafe(il->hw, tx_info->skb);
2479 }
2480
2481 int
2482 il4965_tx_queue_reclaim(struct il_priv *il, int txq_id, int idx)
2483 {
2484         struct il_tx_queue *txq = &il->txq[txq_id];
2485         struct il_queue *q = &txq->q;
2486         struct il_tx_info *tx_info;
2487         int nfreed = 0;
2488         struct ieee80211_hdr *hdr;
2489
2490         if (idx >= q->n_bd || il_queue_used(q, idx) == 0) {
2491                 IL_ERR("Read idx for DMA queue txq id (%d), idx %d, "
2492                        "is out of range [0-%d] %d %d.\n", txq_id, idx, q->n_bd,
2493                        q->write_ptr, q->read_ptr);
2494                 return 0;
2495         }
2496
2497         for (idx = il_queue_inc_wrap(idx, q->n_bd); q->read_ptr != idx;
2498              q->read_ptr = il_queue_inc_wrap(q->read_ptr, q->n_bd)) {
2499
2500                 tx_info = &txq->txb[txq->q.read_ptr];
2501
2502                 if (WARN_ON_ONCE(tx_info->skb == NULL))
2503                         continue;
2504
2505                 hdr = (struct ieee80211_hdr *)tx_info->skb->data;
2506                 if (ieee80211_is_data_qos(hdr->frame_control))
2507                         nfreed++;
2508
2509                 il4965_tx_status(il, tx_info,
2510                                  txq_id >= IL4965_FIRST_AMPDU_QUEUE);
2511                 tx_info->skb = NULL;
2512
2513                 il->cfg->ops->lib->txq_free_tfd(il, txq);
2514         }
2515         return nfreed;
2516 }
2517
2518 /**
2519  * il4965_tx_status_reply_compressed_ba - Update tx status from block-ack
2520  *
2521  * Go through block-ack's bitmap of ACK'd frames, update driver's record of
2522  * ACK vs. not.  This gets sent to mac80211, then to rate scaling algo.
2523  */
2524 static int
2525 il4965_tx_status_reply_compressed_ba(struct il_priv *il, struct il_ht_agg *agg,
2526                                      struct il_compressed_ba_resp *ba_resp)
2527 {
2528         int i, sh, ack;
2529         u16 seq_ctl = le16_to_cpu(ba_resp->seq_ctl);
2530         u16 scd_flow = le16_to_cpu(ba_resp->scd_flow);
2531         int successes = 0;
2532         struct ieee80211_tx_info *info;
2533         u64 bitmap, sent_bitmap;
2534
2535         if (unlikely(!agg->wait_for_ba)) {
2536                 if (unlikely(ba_resp->bitmap))
2537                         IL_ERR("Received BA when not expected\n");
2538                 return -EINVAL;
2539         }
2540
2541         /* Mark that the expected block-ack response arrived */
2542         agg->wait_for_ba = 0;
2543         D_TX_REPLY("BA %d %d\n", agg->start_idx, ba_resp->seq_ctl);
2544
2545         /* Calculate shift to align block-ack bits with our Tx win bits */
2546         sh = agg->start_idx - SEQ_TO_IDX(seq_ctl >> 4);
2547         if (sh < 0)             /* tbw something is wrong with indices */
2548                 sh += 0x100;
2549
2550         if (agg->frame_count > (64 - sh)) {
2551                 D_TX_REPLY("more frames than bitmap size");
2552                 return -1;
2553         }
2554
2555         /* don't use 64-bit values for now */
2556         bitmap = le64_to_cpu(ba_resp->bitmap) >> sh;
2557
2558         /* check for success or failure according to the
2559          * transmitted bitmap and block-ack bitmap */
2560         sent_bitmap = bitmap & agg->bitmap;
2561
2562         /* For each frame attempted in aggregation,
2563          * update driver's record of tx frame's status. */
2564         i = 0;
2565         while (sent_bitmap) {
2566                 ack = sent_bitmap & 1ULL;
2567                 successes += ack;
2568                 D_TX_REPLY("%s ON i=%d idx=%d raw=%d\n", ack ? "ACK" : "NACK",
2569                            i, (agg->start_idx + i) & 0xff, agg->start_idx + i);
2570                 sent_bitmap >>= 1;
2571                 ++i;
2572         }
2573
2574         D_TX_REPLY("Bitmap %llx\n", (unsigned long long)bitmap);
2575
2576         info = IEEE80211_SKB_CB(il->txq[scd_flow].txb[agg->start_idx].skb);
2577         memset(&info->status, 0, sizeof(info->status));
2578         info->flags |= IEEE80211_TX_STAT_ACK;
2579         info->flags |= IEEE80211_TX_STAT_AMPDU;
2580         info->status.ampdu_ack_len = successes;
2581         info->status.ampdu_len = agg->frame_count;
2582         il4965_hwrate_to_tx_control(il, agg->rate_n_flags, info);
2583
2584         return 0;
2585 }
2586
2587 /**
2588  * translate ucode response to mac80211 tx status control values
2589  */
2590 void
2591 il4965_hwrate_to_tx_control(struct il_priv *il, u32 rate_n_flags,
2592                             struct ieee80211_tx_info *info)
2593 {
2594         struct ieee80211_tx_rate *r = &info->control.rates[0];
2595
2596         info->antenna_sel_tx =
2597             ((rate_n_flags & RATE_MCS_ANT_ABC_MSK) >> RATE_MCS_ANT_POS);
2598         if (rate_n_flags & RATE_MCS_HT_MSK)
2599                 r->flags |= IEEE80211_TX_RC_MCS;
2600         if (rate_n_flags & RATE_MCS_GF_MSK)
2601                 r->flags |= IEEE80211_TX_RC_GREEN_FIELD;
2602         if (rate_n_flags & RATE_MCS_HT40_MSK)
2603                 r->flags |= IEEE80211_TX_RC_40_MHZ_WIDTH;
2604         if (rate_n_flags & RATE_MCS_DUP_MSK)
2605                 r->flags |= IEEE80211_TX_RC_DUP_DATA;
2606         if (rate_n_flags & RATE_MCS_SGI_MSK)
2607                 r->flags |= IEEE80211_TX_RC_SHORT_GI;
2608         r->idx = il4965_hwrate_to_mac80211_idx(rate_n_flags, info->band);
2609 }
2610
2611 /**
2612  * il4965_hdl_compressed_ba - Handler for N_COMPRESSED_BA
2613  *
2614  * Handles block-acknowledge notification from device, which reports success
2615  * of frames sent via aggregation.
2616  */
2617 void
2618 il4965_hdl_compressed_ba(struct il_priv *il, struct il_rx_buf *rxb)
2619 {
2620         struct il_rx_pkt *pkt = rxb_addr(rxb);
2621         struct il_compressed_ba_resp *ba_resp = &pkt->u.compressed_ba;
2622         struct il_tx_queue *txq = NULL;
2623         struct il_ht_agg *agg;
2624         int idx;
2625         int sta_id;
2626         int tid;
2627         unsigned long flags;
2628
2629         /* "flow" corresponds to Tx queue */
2630         u16 scd_flow = le16_to_cpu(ba_resp->scd_flow);
2631
2632         /* "ssn" is start of block-ack Tx win, corresponds to idx
2633          * (in Tx queue's circular buffer) of first TFD/frame in win */
2634         u16 ba_resp_scd_ssn = le16_to_cpu(ba_resp->scd_ssn);
2635
2636         if (scd_flow >= il->hw_params.max_txq_num) {
2637                 IL_ERR("BUG_ON scd_flow is bigger than number of queues\n");
2638                 return;
2639         }
2640
2641         txq = &il->txq[scd_flow];
2642         sta_id = ba_resp->sta_id;
2643         tid = ba_resp->tid;
2644         agg = &il->stations[sta_id].tid[tid].agg;
2645         if (unlikely(agg->txq_id != scd_flow)) {
2646                 /*
2647                  * FIXME: this is a uCode bug which need to be addressed,
2648                  * log the information and return for now!
2649                  * since it is possible happen very often and in order
2650                  * not to fill the syslog, don't enable the logging by default
2651                  */
2652                 D_TX_REPLY("BA scd_flow %d does not match txq_id %d\n",
2653                            scd_flow, agg->txq_id);
2654                 return;
2655         }
2656
2657         /* Find idx just before block-ack win */
2658         idx = il_queue_dec_wrap(ba_resp_scd_ssn & 0xff, txq->q.n_bd);
2659
2660         spin_lock_irqsave(&il->sta_lock, flags);
2661
2662         D_TX_REPLY("N_COMPRESSED_BA [%d] Received from %pM, " "sta_id = %d\n",
2663                    agg->wait_for_ba, (u8 *) &ba_resp->sta_addr_lo32,
2664                    ba_resp->sta_id);
2665         D_TX_REPLY("TID = %d, SeqCtl = %d, bitmap = 0x%llx," "scd_flow = "
2666                    "%d, scd_ssn = %d\n", ba_resp->tid, ba_resp->seq_ctl,
2667                    (unsigned long long)le64_to_cpu(ba_resp->bitmap),
2668                    ba_resp->scd_flow, ba_resp->scd_ssn);
2669         D_TX_REPLY("DAT start_idx = %d, bitmap = 0x%llx\n", agg->start_idx,
2670                    (unsigned long long)agg->bitmap);
2671
2672         /* Update driver's record of ACK vs. not for each frame in win */
2673         il4965_tx_status_reply_compressed_ba(il, agg, ba_resp);
2674
2675         /* Release all TFDs before the SSN, i.e. all TFDs in front of
2676          * block-ack win (we assume that they've been successfully
2677          * transmitted ... if not, it's too late anyway). */
2678         if (txq->q.read_ptr != (ba_resp_scd_ssn & 0xff)) {
2679                 /* calculate mac80211 ampdu sw queue to wake */
2680                 int freed = il4965_tx_queue_reclaim(il, scd_flow, idx);
2681                 il4965_free_tfds_in_queue(il, sta_id, tid, freed);
2682
2683                 if (il_queue_space(&txq->q) > txq->q.low_mark &&
2684                     il->mac80211_registered &&
2685                     agg->state != IL_EMPTYING_HW_QUEUE_DELBA)
2686                         il_wake_queue(il, txq);
2687
2688                 il4965_txq_check_empty(il, sta_id, tid, scd_flow);
2689         }
2690
2691         spin_unlock_irqrestore(&il->sta_lock, flags);
2692 }
2693
2694 #ifdef CONFIG_IWLEGACY_DEBUG
2695 const char *
2696 il4965_get_tx_fail_reason(u32 status)
2697 {
2698 #define TX_STATUS_FAIL(x) case TX_STATUS_FAIL_ ## x: return #x
2699 #define TX_STATUS_POSTPONE(x) case TX_STATUS_POSTPONE_ ## x: return #x
2700
2701         switch (status & TX_STATUS_MSK) {
2702         case TX_STATUS_SUCCESS:
2703                 return "SUCCESS";
2704                 TX_STATUS_POSTPONE(DELAY);
2705                 TX_STATUS_POSTPONE(FEW_BYTES);
2706                 TX_STATUS_POSTPONE(QUIET_PERIOD);
2707                 TX_STATUS_POSTPONE(CALC_TTAK);
2708                 TX_STATUS_FAIL(INTERNAL_CROSSED_RETRY);
2709                 TX_STATUS_FAIL(SHORT_LIMIT);
2710                 TX_STATUS_FAIL(LONG_LIMIT);
2711                 TX_STATUS_FAIL(FIFO_UNDERRUN);
2712                 TX_STATUS_FAIL(DRAIN_FLOW);
2713                 TX_STATUS_FAIL(RFKILL_FLUSH);
2714                 TX_STATUS_FAIL(LIFE_EXPIRE);
2715                 TX_STATUS_FAIL(DEST_PS);
2716                 TX_STATUS_FAIL(HOST_ABORTED);
2717                 TX_STATUS_FAIL(BT_RETRY);
2718                 TX_STATUS_FAIL(STA_INVALID);
2719                 TX_STATUS_FAIL(FRAG_DROPPED);
2720                 TX_STATUS_FAIL(TID_DISABLE);
2721                 TX_STATUS_FAIL(FIFO_FLUSHED);
2722                 TX_STATUS_FAIL(INSUFFICIENT_CF_POLL);
2723                 TX_STATUS_FAIL(PASSIVE_NO_RX);
2724                 TX_STATUS_FAIL(NO_BEACON_ON_RADAR);
2725         }
2726
2727         return "UNKNOWN";
2728
2729 #undef TX_STATUS_FAIL
2730 #undef TX_STATUS_POSTPONE
2731 }
2732 #endif /* CONFIG_IWLEGACY_DEBUG */
2733
2734 static struct il_link_quality_cmd *
2735 il4965_sta_alloc_lq(struct il_priv *il, u8 sta_id)
2736 {
2737         int i, r;
2738         struct il_link_quality_cmd *link_cmd;
2739         u32 rate_flags = 0;
2740         __le32 rate_n_flags;
2741
2742         link_cmd = kzalloc(sizeof(struct il_link_quality_cmd), GFP_KERNEL);
2743         if (!link_cmd) {
2744                 IL_ERR("Unable to allocate memory for LQ cmd.\n");
2745                 return NULL;
2746         }
2747         /* Set up the rate scaling to start at selected rate, fall back
2748          * all the way down to 1M in IEEE order, and then spin on 1M */
2749         if (il->band == IEEE80211_BAND_5GHZ)
2750                 r = RATE_6M_IDX;
2751         else
2752                 r = RATE_1M_IDX;
2753
2754         if (r >= IL_FIRST_CCK_RATE && r <= IL_LAST_CCK_RATE)
2755                 rate_flags |= RATE_MCS_CCK_MSK;
2756
2757         rate_flags |=
2758             il4965_first_antenna(il->hw_params.
2759                                  valid_tx_ant) << RATE_MCS_ANT_POS;
2760         rate_n_flags = il4965_hw_set_rate_n_flags(il_rates[r].plcp, rate_flags);
2761         for (i = 0; i < LINK_QUAL_MAX_RETRY_NUM; i++)
2762                 link_cmd->rs_table[i].rate_n_flags = rate_n_flags;
2763
2764         link_cmd->general_params.single_stream_ant_msk =
2765             il4965_first_antenna(il->hw_params.valid_tx_ant);
2766
2767         link_cmd->general_params.dual_stream_ant_msk =
2768             il->hw_params.valid_tx_ant & ~il4965_first_antenna(il->hw_params.
2769                                                                valid_tx_ant);
2770         if (!link_cmd->general_params.dual_stream_ant_msk) {
2771                 link_cmd->general_params.dual_stream_ant_msk = ANT_AB;
2772         } else if (il4965_num_of_ant(il->hw_params.valid_tx_ant) == 2) {
2773                 link_cmd->general_params.dual_stream_ant_msk =
2774                     il->hw_params.valid_tx_ant;
2775         }
2776
2777         link_cmd->agg_params.agg_dis_start_th = LINK_QUAL_AGG_DISABLE_START_DEF;
2778         link_cmd->agg_params.agg_time_limit =
2779             cpu_to_le16(LINK_QUAL_AGG_TIME_LIMIT_DEF);
2780
2781         link_cmd->sta_id = sta_id;
2782
2783         return link_cmd;
2784 }
2785
2786 /*
2787  * il4965_add_bssid_station - Add the special IBSS BSSID station
2788  *
2789  * Function sleeps.
2790  */
2791 int
2792 il4965_add_bssid_station(struct il_priv *il, struct il_rxon_context *ctx,
2793                          const u8 *addr, u8 *sta_id_r)
2794 {
2795         int ret;
2796         u8 sta_id;
2797         struct il_link_quality_cmd *link_cmd;
2798         unsigned long flags;
2799
2800         if (sta_id_r)
2801                 *sta_id_r = IL_INVALID_STATION;
2802
2803         ret = il_add_station_common(il, ctx, addr, 0, NULL, &sta_id);
2804         if (ret) {
2805                 IL_ERR("Unable to add station %pM\n", addr);
2806                 return ret;
2807         }
2808
2809         if (sta_id_r)
2810                 *sta_id_r = sta_id;
2811
2812         spin_lock_irqsave(&il->sta_lock, flags);
2813         il->stations[sta_id].used |= IL_STA_LOCAL;
2814         spin_unlock_irqrestore(&il->sta_lock, flags);
2815
2816         /* Set up default rate scaling table in device's station table */
2817         link_cmd = il4965_sta_alloc_lq(il, sta_id);
2818         if (!link_cmd) {
2819                 IL_ERR("Unable to initialize rate scaling for station %pM.\n",
2820                        addr);
2821                 return -ENOMEM;
2822         }
2823
2824         ret = il_send_lq_cmd(il, ctx, link_cmd, CMD_SYNC, true);
2825         if (ret)
2826                 IL_ERR("Link quality command failed (%d)\n", ret);
2827
2828         spin_lock_irqsave(&il->sta_lock, flags);
2829         il->stations[sta_id].lq = link_cmd;
2830         spin_unlock_irqrestore(&il->sta_lock, flags);
2831
2832         return 0;
2833 }
2834
2835 static int
2836 il4965_static_wepkey_cmd(struct il_priv *il, struct il_rxon_context *ctx,
2837                          bool send_if_empty)
2838 {
2839         int i, not_empty = 0;
2840         u8 buff[sizeof(struct il_wep_cmd) +
2841                 sizeof(struct il_wep_key) * WEP_KEYS_MAX];
2842         struct il_wep_cmd *wep_cmd = (struct il_wep_cmd *)buff;
2843         size_t cmd_size = sizeof(struct il_wep_cmd);
2844         struct il_host_cmd cmd = {
2845                 .id = ctx->wep_key_cmd,
2846                 .data = wep_cmd,
2847                 .flags = CMD_SYNC,
2848         };
2849
2850         might_sleep();
2851
2852         memset(wep_cmd, 0,
2853                cmd_size + (sizeof(struct il_wep_key) * WEP_KEYS_MAX));
2854
2855         for (i = 0; i < WEP_KEYS_MAX; i++) {
2856                 wep_cmd->key[i].key_idx = i;
2857                 if (ctx->wep_keys[i].key_size) {
2858                         wep_cmd->key[i].key_offset = i;
2859                         not_empty = 1;
2860                 } else {
2861                         wep_cmd->key[i].key_offset = WEP_INVALID_OFFSET;
2862                 }
2863
2864                 wep_cmd->key[i].key_size = ctx->wep_keys[i].key_size;
2865                 memcpy(&wep_cmd->key[i].key[3], ctx->wep_keys[i].key,
2866                        ctx->wep_keys[i].key_size);
2867         }
2868
2869         wep_cmd->global_key_type = WEP_KEY_WEP_TYPE;
2870         wep_cmd->num_keys = WEP_KEYS_MAX;
2871
2872         cmd_size += sizeof(struct il_wep_key) * WEP_KEYS_MAX;
2873
2874         cmd.len = cmd_size;
2875
2876         if (not_empty || send_if_empty)
2877                 return il_send_cmd(il, &cmd);
2878         else
2879                 return 0;
2880 }
2881
2882 int
2883 il4965_restore_default_wep_keys(struct il_priv *il, struct il_rxon_context *ctx)
2884 {
2885         lockdep_assert_held(&il->mutex);
2886
2887         return il4965_static_wepkey_cmd(il, ctx, false);
2888 }
2889
2890 int
2891 il4965_remove_default_wep_key(struct il_priv *il, struct il_rxon_context *ctx,
2892                               struct ieee80211_key_conf *keyconf)
2893 {
2894         int ret;
2895
2896         lockdep_assert_held(&il->mutex);
2897
2898         D_WEP("Removing default WEP key: idx=%d\n", keyconf->keyidx);
2899
2900         memset(&ctx->wep_keys[keyconf->keyidx], 0, sizeof(ctx->wep_keys[0]));
2901         if (il_is_rfkill(il)) {
2902                 D_WEP("Not sending C_WEPKEY command due to RFKILL.\n");
2903                 /* but keys in device are clear anyway so return success */
2904                 return 0;
2905         }
2906         ret = il4965_static_wepkey_cmd(il, ctx, 1);
2907         D_WEP("Remove default WEP key: idx=%d ret=%d\n", keyconf->keyidx, ret);
2908
2909         return ret;
2910 }
2911
2912 int
2913 il4965_set_default_wep_key(struct il_priv *il, struct il_rxon_context *ctx,
2914                            struct ieee80211_key_conf *keyconf)
2915 {
2916         int ret;
2917
2918         lockdep_assert_held(&il->mutex);
2919
2920         if (keyconf->keylen != WEP_KEY_LEN_128 &&
2921             keyconf->keylen != WEP_KEY_LEN_64) {
2922                 D_WEP("Bad WEP key length %d\n", keyconf->keylen);
2923                 return -EINVAL;
2924         }
2925
2926         keyconf->flags &= ~IEEE80211_KEY_FLAG_GENERATE_IV;
2927         keyconf->hw_key_idx = HW_KEY_DEFAULT;
2928         il->stations[ctx->ap_sta_id].keyinfo.cipher = keyconf->cipher;
2929
2930         ctx->wep_keys[keyconf->keyidx].key_size = keyconf->keylen;
2931         memcpy(&ctx->wep_keys[keyconf->keyidx].key, &keyconf->key,
2932                keyconf->keylen);
2933
2934         ret = il4965_static_wepkey_cmd(il, ctx, false);
2935         D_WEP("Set default WEP key: len=%d idx=%d ret=%d\n", keyconf->keylen,
2936               keyconf->keyidx, ret);
2937
2938         return ret;
2939 }
2940
2941 static int
2942 il4965_set_wep_dynamic_key_info(struct il_priv *il, struct il_rxon_context *ctx,
2943                                 struct ieee80211_key_conf *keyconf, u8 sta_id)
2944 {
2945         unsigned long flags;
2946         __le16 key_flags = 0;
2947         struct il_addsta_cmd sta_cmd;
2948
2949         lockdep_assert_held(&il->mutex);
2950
2951         keyconf->flags &= ~IEEE80211_KEY_FLAG_GENERATE_IV;
2952
2953         key_flags |= (STA_KEY_FLG_WEP | STA_KEY_FLG_MAP_KEY_MSK);
2954         key_flags |= cpu_to_le16(keyconf->keyidx << STA_KEY_FLG_KEYID_POS);
2955         key_flags &= ~STA_KEY_FLG_INVALID;
2956
2957         if (keyconf->keylen == WEP_KEY_LEN_128)
2958                 key_flags |= STA_KEY_FLG_KEY_SIZE_MSK;
2959
2960         if (sta_id == ctx->bcast_sta_id)
2961                 key_flags |= STA_KEY_MULTICAST_MSK;
2962
2963         spin_lock_irqsave(&il->sta_lock, flags);
2964
2965         il->stations[sta_id].keyinfo.cipher = keyconf->cipher;
2966         il->stations[sta_id].keyinfo.keylen = keyconf->keylen;
2967         il->stations[sta_id].keyinfo.keyidx = keyconf->keyidx;
2968
2969         memcpy(il->stations[sta_id].keyinfo.key, keyconf->key, keyconf->keylen);
2970
2971         memcpy(&il->stations[sta_id].sta.key.key[3], keyconf->key,
2972                keyconf->keylen);
2973
2974         if ((il->stations[sta_id].sta.key.
2975              key_flags & STA_KEY_FLG_ENCRYPT_MSK) == STA_KEY_FLG_NO_ENC)
2976                 il->stations[sta_id].sta.key.key_offset =
2977                     il_get_free_ucode_key_idx(il);
2978         /* else, we are overriding an existing key => no need to allocated room
2979          * in uCode. */
2980
2981         WARN(il->stations[sta_id].sta.key.key_offset == WEP_INVALID_OFFSET,
2982              "no space for a new key");
2983
2984         il->stations[sta_id].sta.key.key_flags = key_flags;
2985         il->stations[sta_id].sta.sta.modify_mask = STA_MODIFY_KEY_MASK;
2986         il->stations[sta_id].sta.mode = STA_CONTROL_MODIFY_MSK;
2987
2988         memcpy(&sta_cmd, &il->stations[sta_id].sta,
2989                sizeof(struct il_addsta_cmd));
2990         spin_unlock_irqrestore(&il->sta_lock, flags);
2991
2992         return il_send_add_sta(il, &sta_cmd, CMD_SYNC);
2993 }
2994
2995 static int
2996 il4965_set_ccmp_dynamic_key_info(struct il_priv *il,
2997                                  struct il_rxon_context *ctx,
2998                                  struct ieee80211_key_conf *keyconf, u8 sta_id)
2999 {
3000         unsigned long flags;
3001         __le16 key_flags = 0;
3002         struct il_addsta_cmd sta_cmd;
3003
3004         lockdep_assert_held(&il->mutex);
3005
3006         key_flags |= (STA_KEY_FLG_CCMP | STA_KEY_FLG_MAP_KEY_MSK);
3007         key_flags |= cpu_to_le16(keyconf->keyidx << STA_KEY_FLG_KEYID_POS);
3008         key_flags &= ~STA_KEY_FLG_INVALID;
3009
3010         if (sta_id == ctx->bcast_sta_id)
3011                 key_flags |= STA_KEY_MULTICAST_MSK;
3012
3013         keyconf->flags |= IEEE80211_KEY_FLAG_GENERATE_IV;
3014
3015         spin_lock_irqsave(&il->sta_lock, flags);
3016         il->stations[sta_id].keyinfo.cipher = keyconf->cipher;
3017         il->stations[sta_id].keyinfo.keylen = keyconf->keylen;
3018
3019         memcpy(il->stations[sta_id].keyinfo.key, keyconf->key, keyconf->keylen);
3020
3021         memcpy(il->stations[sta_id].sta.key.key, keyconf->key, keyconf->keylen);
3022
3023         if ((il->stations[sta_id].sta.key.
3024              key_flags & STA_KEY_FLG_ENCRYPT_MSK) == STA_KEY_FLG_NO_ENC)
3025                 il->stations[sta_id].sta.key.key_offset =
3026                     il_get_free_ucode_key_idx(il);
3027         /* else, we are overriding an existing key => no need to allocated room
3028          * in uCode. */
3029
3030         WARN(il->stations[sta_id].sta.key.key_offset == WEP_INVALID_OFFSET,
3031              "no space for a new key");
3032
3033         il->stations[sta_id].sta.key.key_flags = key_flags;
3034         il->stations[sta_id].sta.sta.modify_mask = STA_MODIFY_KEY_MASK;
3035         il->stations[sta_id].sta.mode = STA_CONTROL_MODIFY_MSK;
3036
3037         memcpy(&sta_cmd, &il->stations[sta_id].sta,
3038                sizeof(struct il_addsta_cmd));
3039         spin_unlock_irqrestore(&il->sta_lock, flags);
3040
3041         return il_send_add_sta(il, &sta_cmd, CMD_SYNC);
3042 }
3043
3044 static int
3045 il4965_set_tkip_dynamic_key_info(struct il_priv *il,
3046                                  struct il_rxon_context *ctx,
3047                                  struct ieee80211_key_conf *keyconf, u8 sta_id)
3048 {
3049         unsigned long flags;
3050         int ret = 0;
3051         __le16 key_flags = 0;
3052
3053         key_flags |= (STA_KEY_FLG_TKIP | STA_KEY_FLG_MAP_KEY_MSK);
3054         key_flags |= cpu_to_le16(keyconf->keyidx << STA_KEY_FLG_KEYID_POS);
3055         key_flags &= ~STA_KEY_FLG_INVALID;
3056
3057         if (sta_id == ctx->bcast_sta_id)
3058                 key_flags |= STA_KEY_MULTICAST_MSK;
3059
3060         keyconf->flags |= IEEE80211_KEY_FLAG_GENERATE_IV;
3061         keyconf->flags |= IEEE80211_KEY_FLAG_GENERATE_MMIC;
3062
3063         spin_lock_irqsave(&il->sta_lock, flags);
3064
3065         il->stations[sta_id].keyinfo.cipher = keyconf->cipher;
3066         il->stations[sta_id].keyinfo.keylen = 16;
3067
3068         if ((il->stations[sta_id].sta.key.
3069              key_flags & STA_KEY_FLG_ENCRYPT_MSK) == STA_KEY_FLG_NO_ENC)
3070                 il->stations[sta_id].sta.key.key_offset =
3071                     il_get_free_ucode_key_idx(il);
3072         /* else, we are overriding an existing key => no need to allocated room
3073          * in uCode. */
3074
3075         WARN(il->stations[sta_id].sta.key.key_offset == WEP_INVALID_OFFSET,
3076              "no space for a new key");
3077
3078         il->stations[sta_id].sta.key.key_flags = key_flags;
3079
3080         /* This copy is acutally not needed: we get the key with each TX */
3081         memcpy(il->stations[sta_id].keyinfo.key, keyconf->key, 16);
3082
3083         memcpy(il->stations[sta_id].sta.key.key, keyconf->key, 16);
3084
3085         spin_unlock_irqrestore(&il->sta_lock, flags);
3086
3087         return ret;
3088 }
3089
3090 void
3091 il4965_update_tkip_key(struct il_priv *il, struct il_rxon_context *ctx,
3092                        struct ieee80211_key_conf *keyconf,
3093                        struct ieee80211_sta *sta, u32 iv32, u16 * phase1key)
3094 {
3095         u8 sta_id;
3096         unsigned long flags;
3097         int i;
3098
3099         if (il_scan_cancel(il)) {
3100                 /* cancel scan failed, just live w/ bad key and rely
3101                    briefly on SW decryption */
3102                 return;
3103         }
3104
3105         sta_id = il_sta_id_or_broadcast(il, ctx, sta);
3106         if (sta_id == IL_INVALID_STATION)
3107                 return;
3108
3109         spin_lock_irqsave(&il->sta_lock, flags);
3110
3111         il->stations[sta_id].sta.key.tkip_rx_tsc_byte2 = (u8) iv32;
3112
3113         for (i = 0; i < 5; i++)
3114                 il->stations[sta_id].sta.key.tkip_rx_ttak[i] =
3115                     cpu_to_le16(phase1key[i]);
3116
3117         il->stations[sta_id].sta.sta.modify_mask = STA_MODIFY_KEY_MASK;
3118         il->stations[sta_id].sta.mode = STA_CONTROL_MODIFY_MSK;
3119
3120         il_send_add_sta(il, &il->stations[sta_id].sta, CMD_ASYNC);
3121
3122         spin_unlock_irqrestore(&il->sta_lock, flags);
3123
3124 }
3125
3126 int
3127 il4965_remove_dynamic_key(struct il_priv *il, struct il_rxon_context *ctx,
3128                           struct ieee80211_key_conf *keyconf, u8 sta_id)
3129 {
3130         unsigned long flags;
3131         u16 key_flags;
3132         u8 keyidx;
3133         struct il_addsta_cmd sta_cmd;
3134
3135         lockdep_assert_held(&il->mutex);
3136
3137         ctx->key_mapping_keys--;
3138
3139         spin_lock_irqsave(&il->sta_lock, flags);
3140         key_flags = le16_to_cpu(il->stations[sta_id].sta.key.key_flags);
3141         keyidx = (key_flags >> STA_KEY_FLG_KEYID_POS) & 0x3;
3142
3143         D_WEP("Remove dynamic key: idx=%d sta=%d\n", keyconf->keyidx, sta_id);
3144
3145         if (keyconf->keyidx != keyidx) {
3146                 /* We need to remove a key with idx different that the one
3147                  * in the uCode. This means that the key we need to remove has
3148                  * been replaced by another one with different idx.
3149                  * Don't do anything and return ok
3150                  */
3151                 spin_unlock_irqrestore(&il->sta_lock, flags);
3152                 return 0;
3153         }
3154
3155         if (il->stations[sta_id].sta.key.key_offset == WEP_INVALID_OFFSET) {
3156                 IL_WARN("Removing wrong key %d 0x%x\n", keyconf->keyidx,
3157                         key_flags);
3158                 spin_unlock_irqrestore(&il->sta_lock, flags);
3159                 return 0;
3160         }
3161
3162         if (!test_and_clear_bit
3163             (il->stations[sta_id].sta.key.key_offset, &il->ucode_key_table))
3164                 IL_ERR("idx %d not used in uCode key table.\n",
3165                        il->stations[sta_id].sta.key.key_offset);
3166         memset(&il->stations[sta_id].keyinfo, 0, sizeof(struct il_hw_key));
3167         memset(&il->stations[sta_id].sta.key, 0, sizeof(struct il4965_keyinfo));
3168         il->stations[sta_id].sta.key.key_flags =
3169             STA_KEY_FLG_NO_ENC | STA_KEY_FLG_INVALID;
3170         il->stations[sta_id].sta.key.key_offset = WEP_INVALID_OFFSET;
3171         il->stations[sta_id].sta.sta.modify_mask = STA_MODIFY_KEY_MASK;
3172         il->stations[sta_id].sta.mode = STA_CONTROL_MODIFY_MSK;
3173
3174         if (il_is_rfkill(il)) {
3175                 D_WEP
3176                     ("Not sending C_ADD_STA command because RFKILL enabled.\n");
3177                 spin_unlock_irqrestore(&il->sta_lock, flags);
3178                 return 0;
3179         }
3180         memcpy(&sta_cmd, &il->stations[sta_id].sta,
3181                sizeof(struct il_addsta_cmd));
3182         spin_unlock_irqrestore(&il->sta_lock, flags);
3183
3184         return il_send_add_sta(il, &sta_cmd, CMD_SYNC);
3185 }
3186
3187 int
3188 il4965_